Satya Nadella appelle à un « frein d'urgence » pour les modèles d'IA

Satya Nadella veut repenser l'architecture de confiance de l'IA

Dans un message publié samedi matin sur X, le PDG de Microsoft, Satya Nadella, a estimé qu'il était temps « de prendre du recul et d'évaluer l'architecture de confiance » de l'intelligence artificielle, rapporte TechCrunch. Il a employé le terme de « Super Intelligence », repris par l'administration Trump pour désigner l'IA.

« Nous ne pouvons pas traiter la Super Intelligence comme un ensemble de boîtes noires imbriquées et nous contenter d'accepter ou de rejeter ses recommandations, ses réponses et ses actions », a écrit Satya Nadella.

Séparer le modèle des contrôles qui l'orchestrent

Selon le dirigeant, cette approche suppose « de séparer le modèle du harnais qui orchestre son travail », ainsi que « d'extérioriser les contrôles et les garde-fous ». Il demande également que « chaque action significative du modèle » soit documentée par des « preuves lisibles par l'homme et infalsifiables ».

Satya Nadella plaide en outre pour des systèmes dans lesquels « une personne autorisée » dispose en permanence de la capacité « de mettre en pause ou d'arrêter un modèle en cours de tâche ».

Un frein d'urgence face à des modèles supposés compromis

« Nous devons partir du principe qu'un modèle est compromis et le contenir dès le départ », a-t-il déclaré. « Voyez cela comme un frein d'urgence. »

Ces prises de position interviennent alors que les grandes entreprises du secteur reconnaissent de plus en plus d'incidents au cours desquels elles semblent avoir perdu le contrôle de leurs modèles. Elles font suite à la publication, par le PDG d'Anthropic, Dario Amodei, d'un plan en faveur d'un développement plus prudent de l'IA.