Google, OpenAI et Anthropic préparent une autorité des standards pour l'IA de pointe

Un organisme calqué sur le modèle de la FINRA

Google, OpenAI et Anthropic envisagent de mettre sur pied leur propre instance de normalisation en matière de sécurité de l'intelligence artificielle, sans encadrement public, selon The Next Web. Les trois laboratoires espèrent une mise en service d'ici la fin de l'année, ou au plus tard au début 2027.

Le nom provisoirement retenu est Standards Authority for Frontier AI, d'après des sources proches du dossier citées par les journalistes Leo Schwartz et Stephanie Palazzolo. Le groupe de travail a examiné plusieurs personnalités connues pour prendre la direction de l'organisation. Ces informations n'ont pas été vérifiées de manière indépendante.

Contrôle des modèles et signalement des incidents

Le projet s'inspire de la FINRA, l'organisme d'autorégulation des courtiers américains. Selon les publications qui ont suivi l'article de The Next Web, l'instance fixerait des normes pour tester les modèles avant leur sortie, pour déclarer les incidents de sécurité et pour certifier des auditeurs externes. Ses pouvoirs de sanction n'ont pas été précisés.

Un projet initialement adossé à l'État fédéral

Les laboratoires souhaitaient au départ une structure placée sous supervision fédérale, rapporte The Next Web. Cette piste a été bloquée lorsqu'un projet de décret de la Maison-Blanche n'a pas réuni suffisamment de soutiens au sein de l'administration Trump.

L'annonce intervient après une semaine dense sur le front de la gouvernance de l'IA. Le 22 septembre, 21 pays et l'Union européenne ont réclamé une supervision internationale de l'IA de pointe. Le lendemain, Sam Altman a déclaré devant le Conseil de sécurité des Nations unies qu'OpenAI ralentirait son rythme et a appelé à des normes nationales et internationales pour ces systèmes. OpenAI a par ailleurs demandé à Washington de piloter une poussée mondiale de normalisation pour les systèmes d'IA capables de s'améliorer eux-mêmes.

L'autorégulation sous pression

L'idée d'une autorégulation par le secteur suscite des critiques ces derniers jours. Bill Gates a jugé la semaine dernière que l'autorégulation ne suffisait pas pour l'IA. L'ancien dirigeant de Meta Nick Clegg a affirmé lors de HumanX à Amsterdam que les laboratoires ne pouvaient pas continuer à se réguler eux-mêmes.

Le nouvel organisme ne couvrirait au départ que les trois laboratoires à l'origine du projet. Les informations publiées ne mentionnent ni Microsoft, ni Meta, ni xAI parmi les membres.