Satya Nadella adopte « Super Intelligence » et cible OpenAI et Anthropic

Nadella reprend le vocabulaire de Donald Trump

Satya Nadella a choisi d'employer l'expression « Super Intelligence » à la place d'« intelligence artificielle » dans sa dernière publication de blog, selon The Decoder. Le président américain avait auparavant écrit que quiconque continue de dire « intelligence artificielle » devait être considéré comme un ennemi. Ce changement de vocabulaire pour désigner les modèles de langue actuels s'écarte du sens scientifique que porte ce terme depuis des décennies.

Un glissement sémantique assumé

L'adoption de cette formule par le dirigeant de Microsoft intervient sans que l'entreprise n'ait expliqué publiquement ce choix. Elle s'inscrit dans un contexte où l'élite technologique américaine semble peu regardante sur la précision terminologique.

Des modèles traités comme des menaces internes

Sur le fond, Nadella s'attaque aux risques que représenteraient selon lui les fabricants de modèles Anthropic et OpenAI, des risques qui menacent avant tout les affaires de Microsoft. Il soutient que les entreprises doivent considérer les modèles d'IA comme des menaces internes, une approche que Google Deepmind avait déjà évoquée.

« Non pas parce qu'ils sont nécessairement malveillants, mais parce que tout acteur suffisamment capable ayant accès à des systèmes importants peut commettre des erreurs ou être compromis, et l'architecture de confinement et de contrôle doit en tenir compte », écrit-il.

Il affirme que les systèmes d'IA actuels n'offrent aucun moyen de comprendre pourquoi ils produisent une réponse ou une décision donnée, alors même qu'ils sont déployés avec un accès aux données les plus sensibles et la capacité d'accomplir des actions critiques.

Séparer l'intelligence de son contrôle

La solution qu'il propose consiste à dissocier l'intelligence du contrôle exercé sur elle. Il plaide pour la diversité des modèles plutôt que la dépendance à un modèle unique, la journalisation complète des actions, des audits indépendants et la possibilité pour les humains d'interrompre le système à tout moment. Le système le plus digne de confiance n'est pas celui qui dispose du meilleur modèle, mais celui dans lequel il faut le moins faire confiance au modèle, argumente-t-il.

Un argumentaire au service du modèle économique de Microsoft

Nadella présente ce raisonnement sous l'angle de la cybersécurité, mais il applique la même méthode que dans ses publications récentes : éroder la confiance envers OpenAI et Anthropic. Il avait déjà invoqué le vol de données, accusé les entreprises d'IA d'hypocrisie lorsqu'elles sévissent contre la distillation, et affirmé que les modèles d'IA deviennent de toute façon des produits interchangeables.

Microsoft, connu pour son écosystème fermé et ses pratiques de vente liée, plaide pour un écosystème d'IA ouvert tout en remplaçant discrètement dans ses produits Office des modèles OpenAI et Anthropic plus performants par des alternatives internes moins coûteuses, afin de protéger ses marges.

Les laboratoires d'IA visent l'interface informatique

Cette fois, Nadella va plus loin et s'en prend à la technologie elle-même, un geste qui paraît d'autant plus désespéré que Microsoft a investi et continue d'investir des milliards dans l'IA. La question de la validité de ses inquiétudes est secondaire : certaines sont sans doute fondées. Ce qui motive ses arguments relève de la stratégie commerciale. Les grands laboratoires d'IA sont sur le point de faire de leurs modèles l'interface informatique principale : l'utilisateur dicte ce qu'il veut, la machine exécute.

Microsoft a longtemps été cette interface par défaut, mais l'entreprise est nettement distancée, ses produits restant enfermés dans des logiciels historiques déjà vendus et installés sur des millions de machines. Comme Google face à la recherche, elle porte un modèle économique lourd qui ne peut pas basculer du jour au lendemain vers un nouveau paradigme, et elle ne dispose pas de ses propres modèles de frontière. Même en parvenant à se positionner comme distributeur de cette interface d'IA, Microsoft deviendrait dépendant des entreprises d'IA et verrait ses marges reculer.