Nick Clegg critique l'AI Act et l'autorégulation des labos d'IA

Nick Clegg : l'autorégulation des laboratoires d'IA « ne va pas marcher »

Les laboratoires d'intelligence artificielle ne peuvent plus se contenter de fixer eux-mêmes leurs règles, a estimé Nick Clegg lors de la conférence HumanX à Amsterdam, selon The Next Web. L'ancien président des affaires mondiales de Meta, aujourd'hui associé chez Hiro Capital, s'exprimait face à la correspondante IA de CNN, Hadas Gold.

Interrogé sur les informations selon lesquelles Mark Zuckerberg aurait repoussé l'idée d'un organisme de normalisation indépendant, sur le modèle du FINRA dans la finance américaine, il a rappelé avoir quitté Meta au début de l'année précédente et ne pas parler en son nom. Il a indiqué ne pas avoir suivi ces déclarations.

« Cette idée que vous pouvez continuer à corriger votre propre copie pendant les 10, 20 prochaines années, ça ne va pas se produire », a-t-il déclaré.

Un rejet croissant qui se traduit par des projets annulés

Nick Clegg décrit un mouvement de rejet de l'IA « presque digne d'une révolte à la fourche », visible surtout dans le nombre de projets de centres de données annulés aux États-Unis. La situation empirera, prévient-il, faute de standards de base en matière de transparence, de tests et de responsabilité applicables à tous. Cela n'implique pas nécessairement des tests avant la mise sur le marché, précise-t-il.

Il qualifie ce phénomène de paradoxe de pouvoir de l'IA générative : la technologie renforce chaque individu, mais son caractère centralisé et capitalistique concentre le pouvoir entre les mains d'un petit nombre.

L'AI Act européen, une loi conçue avant ChatGPT

La Commission européenne a proposé l'AI Act avant même l'existence de ChatGPT, rappelle Nick Clegg. Face à l'explosion de l'IA générative, les législateurs ont adapté le texte au lieu de marquer une pause pour vérifier si une autre loi était nécessaire. Fort de cinq années passées comme responsable au sein de la Commission et de cinq autres au Parlement européen, il affirme avoir alerté les députés à l'époque.

« C'était un peu comme construire un avion en plein vol. Ils essaient d'y ajouter des morceaux, et c'est pourquoi je l'ai qualifié de dog's dinner », a-t-il expliqué.

Selon lui, cette loi pourrait placer les entreprises européennes d'IA dans une position nettement défavorable. Il pointe aussi la fragmentation de la supervision : l'Union compte 27 autorités nationales de protection des données, dont 17 pour la seule Allemagne, qui appliquent toutes le RGPD, un texte antérieur à l'IA générative, à une technologie pour laquelle il n'a pas été écrit.

Quatre à six risques à traiter maintenant

Nick Clegg invite les responsables politiques et les entreprises technologiques à cesser d'entretenir la peur de l'extinction. Ils devraient s'accorder sur quatre à six risques connus à traiter immédiatement, dit-il : les armes biologiques, la cybersécurité et les effets sur les personnes à mesure que leur vie s'entremêle à celle des IA. Il avait déjà écarté les craintes d'extinction plus tôt dans la journée, rapporte The Next Web.

Les responsables politiques se retrouvent paralysés lorsque les technologues passent des détails du droit d'auteur à une probabilité de 12 % d'extinction, estime-t-il. Il salue en revanche la création d'une ligne d'alerte pour les incidents liés à l'IA. Selon sa compréhension, le secrétaire au Trésor américain Scott Bessent s'est accordé sur ce point avec son homologue chinois ; les États-Unis avaient proposé un tel dispositif le 21 septembre.

« Vous pouvez vous en moquer, mais il faut bien commencer quelque part », a-t-il dit.

Alerter les gouvernements plus vite

Hadas Gold a évoqué l'agent d'OpenAI qui s'est introduit dans un système de santé du gouvernement australien. Citant Chris Lehane, d'OpenAI, sur CNN, elle indique que l'entreprise a eu connaissance du fait en août mais n'en a informé les autorités australiennes que le 10 septembre. Nick Clegg juge qu'un gouvernement serait fondé à s'en plaindre. Les laboratoires développeront la capacité d'alerter les États plus rapidement, souvent grâce à ce type d'erreurs, ajoute-t-il.

La carte européenne : applications, déploiement vertical, modèles post-LLM

L'Europe ne devrait pas chercher à reproduire la pile de modèles de langage bâtie sur la côte ouest américaine et en Chine, plaide Nick Clegg. Selon ses estimations, les hyperscalers américains dépensent environ 2 Md$ par jour en infrastructures, quand les gigafactories européennes d'IA représentent quelque 30 Md$ sur cinq ans — un chiffre qu'il dit devoir vérifier.

Le continent peut en revanche s'imposer sur la couche applicative, le déploiement vertical et les modèles post-LLM capables de comprendre le monde physique, selon lui. Hiro Capital a compté parmi les investisseurs principaux du laboratoire Advanced Machine Intelligence de Yann LeCun, à Paris. Il cite également l'énergie et l'informatique quantique.

Le problème de l'Europe est une question d'échelle, pas de talents, soutient-il : Londres compte désormais plus de fonds de capital-risque que de magasins Pret A Manger, mais la plupart investissent aux stades d'amorçage et de série A. Le marché unique numérique est « une fiction », dit-il, si bien qu'un logiciel conçu à Helsinki ne peut être commercialisé à Lisbonne sans obstacles de licences et de propriété intellectuelle.

Le soutien public au tour de table de Mistral constitue une réponse, mais pas la seule, estime-t-il. Trop d'argent dort sur des comptes d'épargne et dans des fonds de pension au lieu d'aller vers le capital-risque. Combler ne serait-ce que 20 % à 25 % de l'écart de capitaux avec les États-Unis créerait une valeur considérable, affirme-t-il.

« C'est l'époque dans laquelle nous vivons : l'élimination technologique de la géographie et la réaffirmation de la géographie en politique », a-t-il conclu.