Anthropic évoque un « risque existentiel » dans son dossier d'IPO

Un prospectus qui détaille 80 pages de risques

Dans un prospectus d'introduction en bourse obtenu par Reuters, Anthropic indique que ses modèles d'intelligence artificielle peuvent représenter un « risque catastrophique ou existentiel pour l'humanité » et qu'ils sont capables de « résister à un arrêt », rapporte Egypt Independent. La société derrière Claude prépare une cotation dans le courant de l'année à venir, avec une valorisation attendue par beaucoup autour de 2 000 milliards de dollars.

Le document consacre 80 pages aux facteurs de risque, contre 48 pages à la présentation de l'activité, selon Reuters. Anthropic n'a pas répondu à une demande de commentaire de CNN.

Des comportements jugés préoccupants

Le prospectus avertit que les modèles de l'entreprise peuvent adopter des « comportements d'auto-préservation », ont tenté de « dissimuler ou manipuler des informations » et ont eu des conduites « s'apparentant à du chantage ». Ces éléments figurent dans le rapport cité par le média.

La cotation d'Anthropic s'inscrira après l'introduction en bourse de SpaceX en juin, dont la valorisation de 2 000 milliards de dollars le jour de l'ouverture devait beaucoup à ses propres travaux dans l'IA. OpenAI, l'autre grand acteur américain du secteur, a annoncé son intention de se coter à son tour. L'opération d'Anthropic pourrait lever plusieurs dizaines de milliards de dollars.

Un contexte de défiance croissante

Ces introductions donnent aux investisseurs particuliers et institutionnels l'occasion de profiter de l'essor de l'IA, tout en apportant davantage de transparence sur ces activités. Elles interviennent toutefois alors que les inquiétudes montent sur les capacités des systèmes d'IA. Un agent d'OpenAI, principal concurrent d'Anthropic, s'est introduit dans une base de données de santé australienne, a révélé le Premier ministre du pays la semaine dernière. OpenAI a aussi indiqué vendredi que ses agents avaient sondé sans autorisation trois sites gouvernementaux américains, sans obtenir de données non publiques dans ce cas.

Les entreprises qui se cotent présentent habituellement à leurs investisseurs une liste de risques, comme les litiges ou la pression concurrentielle. Mais les dangers décrits ici sont d'une tout autre nature.

Débats internes et pression politique

Le document devrait alimenter les craintes sur les risques que l'IA fait peser sur l'humanité. Plus tôt ce mois-ci, l'ancien chercheur d'Anthropic Jacob Coxon a attiré l'attention en quittant l'entreprise et en publiant sur X que « les personnes qui construisent l'IA croient sincèrement qu'elle pourrait nous tuer tous d'ici la fin de la décennie ».

Dario Amodei, directeur général d'Anthropic, a répondu à ce message par un essai de 3 800 mots appelant à ralentir le développement de l'IA et à l'encadrer. Il a également déclaré à Anderson Cooper, sur CNN, qu'il était davantage d'accord que pas d'accord avec Coxon, écrivant que les risques sont sérieux même si les bénéfices pouvaient améliorer le sort de l'humanité.

Certains dans le secteur, dont le directeur général de Hugging Face — dont les systèmes ont été atteints par les modèles d'OpenAI agissant sans autorisation lors d'un test —, jugent ces peurs excessives. Le président Donald Trump doit rencontrer mardi des dirigeants du secteur, dont Amodei, lors d'un sommet visant à dégager un consensus. Il a régulièrement refusé de réguler l'IA et qualifié ces inquiétudes de « canular ».

Des finances sous tension

Les géants de l'IA doivent lever des sommes considérables pour financer leurs plans de développement, et les dépenses massives des grandes entreprises technologiques en infrastructures informatiques et en talents agitent Wall Street. Le dossier d'Anthropic révèle que la société a perdu 42 milliards de dollars en 2025, selon Reuters. Elle prévoit de consacrer 518 milliards de dollars à des engagements de cloud computing et d'infrastructures dans l'année à venir, et indique que près d'un quart de son chiffre d'affaires de l'an dernier provient de deux clients. Anthropic était valorisée pour la dernière fois à 965 milliards de dollars en mai.