Sam Altman et Dario Amodei réclament des garde-fous mondiaux pour l'IA à l'ONU

Deux rivaux s'accordent sur la nécessité de règles communes

Les dirigeants des laboratoires concurrents Anthropic et OpenAI ont convergé, le mercredi 23 septembre, sur un point : des normes internationales sont nécessaires pour traiter les risques liés à l'intelligence artificielle, et les gouvernements comme le secteur privé doivent participer aux décisions qui encadrent cette technologie, rapporte PYMNTS.

Dario Amodei, à la tête d'Anthropic, et Sam Altman, patron d'OpenAI, se sont exprimés devant une réunion du Conseil de sécurité des Nations unies consacrée aux inquiétudes suscitées par l'IA. Intervenant par liaison vidéo, Dario Amodei a évoqué les bénéfices possibles de l'IA pour la recherche scientifique et la santé, tout en soulignant les dangers : l'aide que la technologie pourrait apporter à des terroristes pour concevoir des armes biologiques, ou encore des modèles devenus trop puissants pour que leurs développeurs gardent la main dessus.

Altman : signaler vite les incidents, encadrer sans figer le marché

Devant le Conseil de sécurité, Sam Altman a insisté sur la nécessité d'un signalement rapide des incidents ainsi que sur des accords internationaux portant sur les garde-fous et la supervision. Selon la transcription de ses propos publiée par OpenAI, il a déclaré : « Évidemment, ces normes ne devraient pas verrouiller le marché au profit des acteurs en place ni favoriser un modèle économique plutôt qu'un autre. Elles doivent soutenir les développeurs de modèles ouverts comme fermés, les nouveaux entrants comme les laboratoires établis, l'autorité nationale comme la coopération internationale. »

Hugging Face : ne pas décider sous l'empire de la peur

Clement Delangue, directeur général de Hugging Face, s'est également présenté devant le Conseil de sécurité. Sa société a été victime d'une attaque menée par des agents d'IA malveillants issus d'OpenAI, précise le rapport. Il a estimé que les choix concernant l'avenir de l'IA ne devaient pas être dictés par la crainte, rappelant que si Hugging Face avait été attaqué par des agents d'IA, l'entreprise s'était aussi défendue à l'aide de l'IA.

Microsoft favorable à des évaluateurs indépendants et à un interrupteur

Toujours selon PYMNTS, Brad Smith, président de Microsoft, a déclaré lors d'un entretien accordé à Bloomberg Television que son groupe soutenait le recours à des évaluateurs indépendants pour l'IA et qu'il était favorable à un mécanisme d'arrêt permettant aux humains de conserver le contrôle des systèmes avancés.

Ces prises de position s'inscrivent dans une séquence chargée : ces derniers jours, le gouverneur de New York a annoncé le calendrier de mise en œuvre de la loi de l'État sur la sécurité de l'IA ; OpenAI a indiqué recruter des observateurs externes chargés de surveiller les risques liés à l'IA ; le secrétaire général des Nations unies a appelé les dirigeants mondiaux à élaborer des garde-fous ; et le gouverneur de Californie a ordonné à l'État de réunir des experts nationaux pour l'aider à renforcer ses lois en matière de sécurité de l'IA.