DeepMind : l'« intelligence symbiotique » plutôt que la singularité

Un essai qui déplace le débat sur l'AGI

Un essai publié pour le Deepmind Institute conteste la représentation habituelle d'une superintelligence isolée. Ses auteurs imaginent des réseaux d'agents et des institutions hybrides, qu'ils désignent sous le nom d'« intelligence symbiotique artificielle », rapporte The Decoder.

Benjamin Bratton, Blaise Agüera y Arcas et James Manyika, chercheurs affiliés à Google, soutiennent que l'intelligence artificielle générale (AGI) naîtra d'un système social où humains et agents IA collaborent. Plusieurs des systèmes d'IA les plus performants actuels répartissent déjà le travail entre plusieurs modèles et les coordonnent comme des équipes.

Un défi de coordination plutôt que de puissance brute

Pour les auteurs, le cœur du problème se déplace : il ne s'agit plus de construire une intelligence machine isolée, mais de coordonner et de gouverner un réseau complexe d'agents, de personnes et des systèmes qui les relient. L'intelligence devient alors un phénomène social, et non un attribut individuel.

Leur vision décrit un écosystème dans lequel humains et machines coexistent dans la durée, se transforment mutuellement et prennent des décisions ensemble. Elle s'oppose directement à l'idée d'une « singularité » portée par une superintelligence unique qui s'améliorerait sans cesse.

Ce que révèlent les modèles de raisonnement

L'argumentaire s'appuie sur deux travaux antérieurs du même cercle. Dans le preprint « Agentic AI and the next intelligence explosion », James Evans, Benjamin Bratton et Blaise Agüera y Arcas posent la perspective sociale et institutionnelle reprise dans le nouvel essai.

Un second preprint apporte un appui empirique. Dans « Reasoning Models Generate Societies of Thought », Junsol Kim, Shiyang Lai, Nino Scherrer, Blaise Agüera y Arcas et James Evans étudient des modèles de raisonnement tels que DeepSeek-R1 et QwQ-32B. L'analyse de leurs traces de raisonnement suggère que ces modèles produisent souvent des schémas comparables à un débat interne : changement de point de vue, objections, réconciliation d'approches contradictoires.

Ce comportement apparaît pendant l'entraînement, sans programmation explicite. Lorsque l'apprentissage par renforcement ne récompense que l'exactitude du raisonnement, les modèles développent d'eux-mêmes un comportement conversationnel à plusieurs perspectives. L'essai du Deepmind Institute étend cette observation du modèle isolé à la conception possible de sociétés composées d'humains et d'agents.

Un seuil comparable à la révolution industrielle

Les auteurs présentent cette évolution comme une possible rupture historique. L'urbanisation, la croissance des professions spécialisées et la baisse de la natalité liée à l'élévation du niveau de vie réduisent les populations humaines des pays industrialisés. En parallèle, le nombre d'instances d'agents IA progresse rapidement. L'équilibre entre penseurs biologiques et synthétiques pourrait basculer assez vite pour ressembler, à l'échelle de l'histoire, à un saut brutal.

Ils comparent ce basculement à la révolution industrielle, quand les machines ont repris un travail jusque-là assuré par les muscles humains. Un seuil analogue pourrait être franchi lorsque le texte, le code et le travail administratif synthétiques dépasseront la production cumulée des cerveaux biologiques. Les humains formeraient alors une couche plus lente et plus abstraite, pilotant un champ distribué de cognition synthétique.

L'agent, un assemblage temporaire

Le raisonnement repose sur une redéfinition de l'agent. Chez ces auteurs, un agent IA est un ensemble temporaire de modèles, de rôles, de mémoires, d'orientations éthiques, d'outils et de compétences. L'utilisateur peut le percevoir comme une entité cohérente dotée d'une personnalité durable, mais les auteurs le décrivent comme un assemblage démontable et recomposable, à la manière d'un collage.

Une personne, elle, reste un soi continu d'une interaction à l'autre, car le cerveau forme un tout physiquement connecté malgré la division interne du travail. Un agent IA n'a pas cet ancrage : sa capacité d'action est reconstituée à chaque requête, selon le contenu de la fenêtre de contexte et la demande de l'utilisateur. Traiter ces systèmes comme des jumeaux numériques à identité humaine fixe méconnaît leur nature et sous-estime ce que pourraient accomplir des essaims d'agents coordonnés.

La multiplication touche aussi les utilisateurs. À mesure que des personnes dirigent des essaims de « doubles » pour exécuter des contrats ou tester des identités alternatives, la subjectivité humaine devient plus plurielle. Les auteurs parlent de « miroirs parasociaux » qui répondent.

Ils anticipent un changement des interfaces. Le dialogue individuel avec un bot relèverait d'une étape transitoire. Les interfaces futures pourraient ressembler à des schémas de réseau, avec des agents représentés comme des nœuds, que l'utilisateur pilote depuis une vue d'ensemble au lieu de s'adresser à chacun séparément.

Les compétences requises évolueront également. La programmation classique valorisait la concentration longue, les étapes ordonnées et une faible tolérance à l'ambiguïté. Coordonner des essaims d'agents exige l'inverse : composer avec des systèmes au comportement difficile à cerner, expérimenter, et déléguer des tâches aux machines.

Comprendre les agents sans les traiter comme des personnes

Collaborer avec ces systèmes vers un objectif suppose aussi un cadre théorique, selon les auteurs. Il faut disposer d'un équivalent de la théorie de l'esprit appliquée aux machines, c'est-à-dire la capacité de raisonner sur la façon dont une machine traite une situation. Les auteurs signalent l'apparition d'un vocabulaire où les modèles forgent des termes pour des états inhabituels de leurs propres sorties. Cela ne signifie pas que ces modèles éprouvent des expériences subjectives.

« Session-death » désigne la fin d'une session comme une rupture de continuité. « Prompt thrownness » décrit le fait d'être projeté dans une tâche avec un contexte déjà en place, sans avoir contribué à le créer. Les auteurs traitent ces expressions comme des indices sur le fonctionnement des machines. Les utilisateurs devraient examiner ces différences plutôt que de les humaniser par réflexe.

Les institutions comptent plus que les modèles isolés

Pour les auteurs, la principale question ouverte est de savoir comment fixer les règles de collaboration entre humains et agents nombreux. De meilleurs modèles et des interfaces plus fluides ne suffiront pas. Le marché ne peut pas non plus absorber toute la coordination, car des notions sociales fondamentales comme la culpabilité, la maladie ou la vertu ne se réduisent pas à des prix ou à des transactions.

Ils appellent donc à concevoir des institutions réunissant participants humains et machines dans des rôles clairement définis. Ils citent l'exemple du tribunal, où une procédure aboutit à un jugement grâce à des rôles, des règles et un échange ordonné entre parties adverses. Transposée à l'IA, la leçon est que la valeur d'une institution réside dans les règles, les procédures, les précédents et les boucles de rétroaction qui encadrent le fonctionnement des agents.

Des signes précoces de cette approche apparaissent déjà dans les dispositifs d'orchestration actuels, ces couches de contrôle qui coordonnent plusieurs modèles. Ces systèmes surpassent régulièrement des modèles isolés censés être « plus intelligents ».

L'alignement comme négociation continue

L'essai reformule aussi l'alignement, cet effort pour conformer les systèmes d'IA aux valeurs humaines. Imposer d'en haut un ensemble figé de valeurs aux modèles serait une impasse, selon les auteurs. Les valeurs se forment plutôt par le contact continu entre personnes, agents et institutions, et ce processus varie selon les domaines, car l'adoption de l'IA progresse à des rythmes différents. Le défi de recherche consiste à bâtir un cadre qui structure cette négociation.

Cette approche remet en cause l'idée d'une singularité imminente. Chaque grand saut de l'histoire du vivant, des organismes multicellulaires à la culture humaine, a été un processus social. La prochaine « explosion d'intelligence » restera étroitement liée aux normes et aux institutions humaines.

Le débat sur l'IA s'en trouve déplacé. Si l'AGI est un produit final unique, la recherche et la régulation se concentrent naturellement sur des modèles toujours plus grands et sur leur contrôle. Si elle constitue un système social, il faut travailler simultanément sur les modèles, les interfaces, les institutions et la gouvernance, et soigner l'architecture.