OpenAI a envisagé d'organiser une vente aux enchères de l'AGI

Un plan de financement présenté à l'hiver 2017

En 2017, Greg Brockman et Ilya Sutskever, cofondateurs d'OpenAI, ont proposé de céder aux enchères les droits sur l'AGI que l'entreprise développerait plus tard, à des gouvernements incluant les États-Unis, la Chine et la Russie, selon The Next Web. Kevin Roose relate ce projet dans un extrait de son livre paru mardi dans The Atlantic. Cinq personnes proches du dossier le lui ont décrit.

L'idée a émergé au moment où Elon Musk prenait ses distances avec OpenAI et où le laboratoire cherchait de nouveaux financements, écrit Roose. Elle est d'abord apparue comme la proposition d'une coalition internationale chargée de gérer les risques liés à l'AGI. Lorsque Brockman et Sutskever l'ont présentée au personnel cet hiver-là, elle était devenue une stratégie de levée de fonds connue en interne sous le nom de « countries plan ».

Deux personnes proches de leur raisonnement indiquent que les deux hommes s'attendaient à ce que les gouvernements s'emparent de l'AGI développée par les entreprises qui l'auraient créée. Ils demandaient donc pourquoi OpenAI ne la vendrait pas dès maintenant, alors qu'elle avait besoin d'argent.

« Cela ressemblait à des gens de la tech présentant une start-up délirante, avec un plan farfelu et, à la fin, l'idée que le gouvernement paierait », a déclaré à Roose une personne ayant assisté à la présentation.

La réponse d'OpenAI et l'abandon du projet

Un porte-parole d'OpenAI a déclaré à Roose que l'entreprise avait « brièvement envisagé de transformer OpenAI en une initiative de coopération internationale », mais qu'elle n'avait « pas envisagé de vendre l'AGI à la Chine ou à la Russie ». OpenAI a abandonné le projet après avoir trouvé un financement auprès de Microsoft.

L'opposition de Dario Amodei

En décembre 2017, Dario Amodei a écrit à Brockman, Sutskever et d'autres dirigeants pour marquer son désaccord, selon l'extrait.

« À mon avis, ce plan exacerberait les courses aux armements au lieu de les réduire, pourrait faciliter des atrocités contre les droits humains… et saperait la légitimité morale d'OpenAI », a-t-il écrit.

Amodei tenait une liste des occasions où il avait estimé qu'Altman l'avait induit en erreur, écrit Roose. L'une concernait une liste de clients autorisés à utiliser GPT-3. Une autre portait sur les clauses de sécurité dans l'accord de 1 Md$ avec Microsoft.

En 2020, Altman a proposé à Kanye West un accès à la version bêta privée de GPT-3, selon deux personnes interrogées par Roose. Jack Clark, alors directeur des politiques d'OpenAI, s'y est opposé.

Le départ vers Anthropic et les tensions persistantes

Cette année-là, Amodei et six collègues sont partis fonder Anthropic. Ils ont qualifié les conditions de ce départ de « divorce ». Le groupe pouvait recruter des salariés d'OpenAI pendant plusieurs semaines, et les deux parties se sont engagées à ne pas se dénigrer publiquement. L'entreprise devait d'abord s'appeler Sparrow Systems, selon l'extrait.

Dario et Daniela Amodei « méprisent toujours » Altman et Brockman, selon plusieurs personnes qui les connaissent, écrit Roose. Dario a qualifié Altman et OpenAI d'« evil » dans des messages Slack internes. Certaines personnes chez OpenAI décrivent les Amodei comme des « donneurs de leçons assoiffés de pouvoir », selon l'extrait.

Lundi, TNW a rapporté qu'Altman et Amodei allaient tous deux se soustraire à une enquête australienne. Anthropic se prépare à une cotation, et son prospectus fait état d'une perte de 42 Md$ en 2025. Mercredi, Brockman a renoncé à un engagement de 25 M$ envers un super PAC dédié à l'IA.