L'Association for Human Mathematics appelle au boycott d'OpenAI

L'Association for Human Mathematics (AHM) appelle les mathématiciens à cesser toute collaboration avec OpenAI, selon The Decoder. L'organisation reproche à l'entreprise d'avoir publié en une seule fois plus de 700 fichiers de preuves mathématiques générées par intelligence artificielle, sans que la communauté scientifique ait été consultée.

Une accusation de violation des normes scientifiques

L'AHM estime qu'OpenAI a enfreint les principes fondamentaux de la recherche en publiant ces preuves. « Les mathématiciens n'ont pas demandé ce travail », affirme le communiqué de l'association, qui qualifie la diffusion simultanée de plus de 700 fichiers de « non pas une démonstration d'érudition, mais une démonstration de puissance ».

Le texte signale également les nombreuses poursuites judiciaires pour droits d'auteur auxquelles OpenAI fait face dans le monde, suggérant sans le dire explicitement que l'entreprise n'a pu obtenir ces résultats qu'en s'entraînant sur les travaux de mathématiciens, de manière légale ou non.

Terence Tao, médaillé Fields et président du groupe, a relayé la déclaration sur son blog. Le spécialiste de la théorie de la complexité Scott Aaronson a décrit la situation comme une « Mathocalypse » sur son blog.

Un différend sur la notion de problème résolu

La déclaration de l'AHM s'inscrit dans un débat qui dure depuis plusieurs mois. OpenAI avait déjà provoqué des remous en affirmant qu'un modèle interne avait résolu plus de 100 problèmes mathématiques ouverts en un seul mois, dont une approche du problème du millénaire Navier-Stokes. Face aux critiques, l'entreprise a mis en place le groupe consultatif AGMAI à l'Institute for Advanced Study, sans lui donner de pouvoir sur le rythme de ses recherches internes.

Selon l'AHM, OpenAI a déjà ignoré la préconisation centrale d'AGMAI, qui estimait que les problèmes mathématiques avancés ne devaient pas être testés sur des modèles internes. La question de fond est de savoir si un problème peut être considéré comme résolu avant que sa preuve n'ait été vérifiée de façon indépendante et rendue compréhensible par des humains.

Le différend s'est cristallisé autour du problème Navier-Stokes : OpenAI a annoncé une solution peu avant que deux mathématiciens ne présentent leur propre solution assistée par IA. Ces derniers avaient utilisé ChatGPT dans leurs travaux, et OpenAI a nié avoir exploité les données de ces échanges pour entraîner son système et parvenir plus vite à une solution.

Deux modèles d'approche opposés

Scott Aaronson oppose à la méthode d'OpenAI ce qu'il appelle le « modèle Anthropic ». OpenAI diffuse des brouillons bruts de preuves en un seul lot, déclenchant une course pour les traiter. Anthropic a pour sa part collaboré avec deux chercheurs en algorithmique dont le modèle d'IA a fourni l'idée clé pour réfuter deux conjectures vieilles de vingt ans. Les chercheurs ont été rémunérés et ont rédigé une version de la preuve accessible aux humains.

Les deux approches ont leurs inconvénients. Celle d'OpenAI laisse à la communauté le travail ingrat de rendre les preuves lisibles, gratuitement. Celle d'Anthropic permet à une entreprise privée de choisir quels mathématiciens serviront d'« émissaires » pour un résultat.

Des preuves difficilement lisibles

Aaronson illustre les conséquences pour les chercheurs à travers l'expérience de son épouse, Dana Moshkovitz, qui a consacré sa carrière à la conjecture des jeux uniques, un problème ouvert en informatique théorique. La publication contient une preuve revendiquée de cette conjecture. Dans des messages envoyés à Aaronson la nuit de la diffusion, elle écrit : « On dirait quelque chose écrit par quelqu'un sous psychédéliques. »

Une grande partie du document était peu claire. L'article citait de nombreux travaux sans expliquer pourquoi ils s'appliquaient, alors que des résultats antérieurs auraient dû l'exclure. « Fondamentalement, l'article est si mal écrit qu'il est impossible de le lire sans l'aide de l'IA », a déclaré Moshkovitz. La preuve reposait sur une construction entièrement nouvelle et bizarre, qu'elle a décrite comme « une folie extraterrestre ».

Aaronson recense d'autres résultats en théorie de la complexité, en théorie des nombres et en algorithmique, dont des avancées partielles sur plusieurs problèmes du millénaire de Clay encore ouverts. Selon lui, chacun d'entre eux aurait constitué à lui seul l'un des meilleurs résultats de l'année.

Un domaine est toutefois absent de la publication : la cryptographie. Citant des sources anonymes, Aaronson rapporte que des entreprises d'IA sondent discrètement les faiblesses de protocoles et de primitives cryptographiques. Environ 8 000 problèmes ont été testés au total, avec un taux de réussite d'environ 5 % et une moyenne de trois heures de calcul au niveau GPT-Pro par problème. Le modèle utilisé serait probablement l'actuel modèle interne d'OpenAI, qui pourrait être proposé aux clients payants de ChatGPT dans les mois à venir.

Un boycott loin de faire l'unanimité

Les commentaires sous le billet de blog de Tao montrent la division de la discipline. Plusieurs intervenants soutiennent le boycott et proposent que les chercheurs cessent d'utiliser les produits d'OpenAI, tout en réclamant une meilleure protection des serveurs de prépublication comme arXiv contre la collecte massive de données d'entraînement.

D'autres jugent la position de l'AHM irréaliste, estimant qu'OpenAI ne cessera pas de travailler sur les mathématiques et que des résultats publics valent mieux que des résultats privés. Un commentateur demande si un problème peut vraiment être considéré comme résolu quand ni les auteurs ni personne d'autre ne comprend pleinement la preuve. Dans le cas de Navier-Stokes, il reste incertain que le résultat approfondisse réellement la compréhension de la dynamique des fluides.

AGMAI adopte une position plus diplomatique que l'AHM, considérant la publication comme une première étape dont la compréhension mathématique ne fait que commencer. Le groupe avertit néanmoins que l'avenir de la recherche mathématique ne peut pas consister à traiter des résultats produits par des laboratoires d'IA. « Les mathématiciens doivent pouvoir formuler leurs propres questions, développer leurs propres approches et explorer des directions qui n'ont pas été sélectionnées comme exemples des capacités d'un système d'IA. Un accès équitable à des outils de recherche puissants et à des ressources de calcul adéquates est essentiel à cette liberté », écrit l'organisation.

Une dynamique jugée irréversible

Terence Tao va plus loin sur Mastodon. En mathématiques traditionnelles, les preuves de problèmes ouverts de longue date donnaient lieu à des exposés, des ateliers, de nouvelles collaborations et une intégration dans les manuels, attirant de jeunes chercheurs qui travaillaient à les comprendre et à les replacer dans leur contexte.

Il observe aujourd'hui l'inverse. Les problèmes sont résolus de façon autonome par des utilisateurs d'IA sans intérêt pour la discipline, incapables de comprendre les résultats assez bien pour répondre à des questions ou donner des exposés, ce qui produit bien moins de séminaires et de collaborations que les percées traditionnelles. Des chercheurs retiennent aussi des pistes prometteuses par crainte que des concurrents ne leur ravissent la solution.

Pour Tao, le dommage est irréversible. Une fois un problème considéré comme résolu, il ne peut plus être dé-résolu. Le simple fait de savoir qu'une solution existe peut, selon lui, « contaminer » la recherche d'autres approches susceptibles d'apporter davantage d'éclairages. Les solutions sont « récoltées » à grande échelle, laissant des branches entières des mathématiques moins fertiles qu'auparavant.

Tao plaide pour que l'ère « Math 2.0 » cesse de faire de la résolution de problèmes son principal critère de progrès et valorise l'explication, la construction de communautés et l'ouverture de nouvelles directions de recherche, avec les changements correspondants dans la formation, la publication et l'évaluation des carrières. Il prolonge ainsi sa vision d'une « mathématique industrielle » formulée en 2024, où les humains donnaient encore le rythme. L'IA devait alors assister les mathématiciens comme un moteur assiste les joueurs d'échecs. Aujourd'hui, Tao constate une inversion des rôles : l'IA résout les problèmes difficiles et les humains traitent les résultats ensuite.