Yann LeCun qualifie Dario Amodei de « délirant » et critique l'EA

Yann LeCun ne redoute pas « du tout » que l'IA anéantisse l'humanité et n'a « aucune inquiétude » face à la série d'incidents récents impliquant des agents d'IA. Le lauréat du prix Turing l'a affirmé dans un entretien accordé à Emily Forlini pour Fortune, selon The Next Web, où il qualifie Dario Amodei, directeur général d'Anthropic, de « délirant », puis de « fou ».

Une responsabilité humaine, pas celle des machines

Pour LeCun, ces incidents relèvent d'une supervision humaine défaillante et d'une mauvaise conception des systèmes, à l'image du piratage de Hugging Face par les agents d'OpenAI en juillet. Ils étaient « totalement évitables », selon lui, et beaucoup de laboratoires d'IA n'ont pas les bases en cybersécurité.

« Ces agents font exactement ce qu'on leur a demandé. Ils étaient censés être dans des bacs à sable, mais les bacs à sable étaient poreux et horriblement conçus », a-t-il déclaré à Fortune.

L'altruisme efficace jugé « toxique »

LeCun estime que beaucoup de personnes travaillant sur la sécurité de l'IA « ont généralement un agenda à défendre ». Il vise explicitement l'altruisme efficace, ce mouvement centré sur les risques que l'IA fait peser sur l'humanité, qu'il juge « super toxique » et « un désastre complet ». Ses partisans au sein des laboratoires souffriraient d'une « paranoïa » qui conduit à de mauvaises décisions.

L'altruisme efficace a attiré l'attention le mois dernier après un message devenu viral de Jacob Coxon, ancien chercheur d'Anthropic et d'OpenAI, selon lequel les équipes de ces laboratoires croient que l'IA pourrait tuer tout le monde d'ici la fin de la décennie. Amodei et plusieurs fondateurs d'Anthropic ont par le passé manifesté de la sympathie pour ces idées et participé à des événements liés, note Fortune. Amodei a nié y adhérer, et Anthropic affirme que ses employés ont des opinions variées. LeCun souligne que l'épouse de Holden Karnofsky est Daniela Amodei, présidente et cofondatrice d'Anthropic ; Karnofsky a cofondé Open Philanthropy, devenu Coefficient Giving. Selon LeCun, Amodei tente de garder ses distances mais y est « totalement » engagé.

« Je pense qu'il est complètement délirant », a déclaré LeCun.

La « pire campagne marketing »

Lorsqu'Amodei et Sam Altman, d'OpenAI, affirment que l'IA pourrait tuer tout le monde, cela nuit selon LeCun au public comme au secteur. Il parle de la « pire campagne marketing » imaginable.

Ce qui l'inquiète davantage que l'extinction, c'est la capture réglementaire, ce phénomène où les entreprises dominantes façonnent les règles pour écarter les plus petites. LeCun juge Amodei « honnête » et estime qu'il agit dans l'intérêt d'Anthropic à l'approche de son introduction en bourse. Présenter l'IA comme trop dangereuse pour le public, réclamer une régulation et qualifier les modèles open source de dangereux relèvent selon lui de cette capture, qui serait préjudiciable si le Congrès légiférait en ce sens. Pour LeCun, l'IA n'a pas besoin de nouvelles règles.

Il utilise surtout les réseaux sociaux pour critiquer les coupes budgétaires de l'administration Trump dans la recherche, rapporte Fortune. Sur les craintes liées à l'IA, les deux hommes sont toutefois proches : Trump a signé cette semaine un décret renommant l'IA « super intelligence ».

AMI Labs parie sur les modèles du monde

LeCun a quitté Meta après douze ans, dont sept comme scientifique en chef de l'IA, pour fonder AMI Labs. L'entreprise a son siège à Paris, des équipes à New York, Montréal et Singapour, et plus de 60 salariés. Elle développe des modèles du monde fondés sur JEPA, une architecture que LeCun a initiée. JEPA prédit les données à l'intérieur des représentations internes d'un modèle, au lieu de générer des pixels ou des mots.

Pour l'heure, AMI se concentre sur l'industrie. Ses systèmes visent à comprendre des environnements comme une usine ou un moteur d'avion, par exemple pour repérer une machine qui commence à défaillir. LeCun reste en bons termes avec Meta et utilise ses agents Muse AI. Il a nommé le sien Hal, d'après l'ordinateur de « 2001 : L'Odyssée de l'espace ». Le premier produit d'AMI arrivera « bientôt » et pourrait inclure des modèles ouverts, selon lui.