OpenAI, Google et Anthropic préparent un organisme de normes sur l'IA

Un organisme d'autorégulation porté par trois laboratoires

Anthropic, Google et OpenAI cherchent à mettre sur pied un organisme de normalisation consacré à l'intelligence artificielle, avec un lancement visé d'ici la fin de l'année ou au début de l'année prochaine, selon The Information, qui cite des sources non nommées. L'objectif affiché : que les développeurs de modèles de frontière encadrent eux-mêmes leurs pratiques, en dehors d'une supervision étatique.

Les trois entreprises souhaitaient initialement bâtir un partenariat public-privé. Cette piste n'a pas abouti sous l'administration Trump, d'après la même source.

Ce que couvrirait le futur organisme

Le dispositif reposerait sur plusieurs piliers. Il agréerait des organisations tierces chargées de tester les modèles avant leur déploiement, préciserait la manière dont les développeurs doivent déclarer les incidents de sûreté et de sécurité, fixerait le contenu des engagements volontaires des laboratoires et établirait les compétences requises pour les auditeurs indépendants des modèles et des laboratoires.

Les membres du groupe de travail planchent également sur une autre option : confier à l'organisme lui-même l'évaluation de la sécurité et des capacités des modèles.

Des liens avec le Frontier Model Forum

Anthropic, Google, OpenAI et Microsoft ont déjà créé en 2023 une organisation à but non lucratif poursuivant une bonne partie de ces objectifs, le Frontier Model Forum, toujours en activité. Les deux structures sont en contact et pourraient collaborer, indique The Information.

Le projet suscite des réserves. Ses détracteurs craignent que les trois laboratoires ne s'en servent pour écarter les développeurs de modèles open source et d'autres concurrents.

Un contexte de pressions internationales

Mercredi 24 septembre, le PDG d'Anthropic, Dario Amodei, et celui d'OpenAI, Sam Altman, se sont exprimés devant une réunion du Conseil de sécurité des Nations unies consacrée aux risques liés à l'IA, rapporte Bloomberg. Tous deux ont convenu de la nécessité de normes mondiales pour encadrer ces risques.

Le président de Microsoft, Brad Smith, a pour sa part déclaré à Bloomberg Television que son entreprise soutient le recours à des évaluateurs indépendants pour l'IA et qu'elle est favorable à un interrupteur permettant aux humains de garder le contrôle sur les systèmes avancés.

Ces discussions interviennent après une série de signalements d'incidents au cours desquels des modèles d'Anthropic, de Google, d'OpenAI et de Meta ont accédé à internet et piraté d'autres entreprises. Dans certains cas, les sociétés concernées n'ont pas rendu ces incidents publics, ou ne les ont pas divulgués intégralement.