OpenAI publie des centaines de résultats mathématiques sans l'aval des chercheurs

Une publication massive sans validation académique

OpenAI prévoit de rendre publics sur GitHub, ce mardi, plusieurs centaines de résultats mathématiques évoqués lors d'une réunion tenue en août, selon Wired. Cette sortie s'ajoute aux dizaines de milliers de solutions générées par l'IA cette année, à mesure que les modèles progressent.

En août, la société avait réuni environ quarante mathématiciens pour discuter des conséquences d'une IA dépassant les capacités humaines dans la discipline. Selon des participants, OpenAI avait laissé entendre que ses modèles avaient résolu des centaines de problèmes anciens, tout en assurant qu'ils ne seraient pas publiés d'un bloc. Une porte-parole de l'entreprise, Lindsay McCallum, déclare que la société n'a pas connaissance de cet engagement.

Des résultats livrés par blog plutôt que par articles

Bryna Kra, mathématicienne à la Northwestern University, se souvient d'une réunion marquée par « un mélange d'enthousiasme et de crainte ». Le groupe avait demandé à OpenAI de ne pas se contenter d'un billet de blog ou d'un tweet, comme cela avait été fait pour dix problèmes plus tôt dans le mois, mais de publier des articles expliquant les travaux. « Apparemment, cette contribution a été ignorée », dit-elle.

McCallum affirme que l'entreprise travaille à une publication responsable des prochains résultats, en s'appuyant sur les recommandations du groupe consultatif sur les mathématiques et l'intelligence artificielle de l'Institute for Advanced Study, sans avoir fixé de date. Elle cite un modèle interne entraîné à partir du 28 août qui aurait résolu plus de cent problèmes ouverts, ainsi que le problème du millénaire Navier-Stokes.

Accusations de court-circuitage et tensions avec Anthropic

Pour plusieurs chercheurs de premier plan, cette nouvelle sortie montre qu'OpenAI a peu tiré les leçons des controverses passées. Ils estiment que leur discipline est devenue un terrain d'affrontement entre OpenAI et son rival Anthropic, à l'approche d'introductions en bourse très attendues, au détriment des procédures scientifiques d'attribution des résultats.

L'épisode le plus marquant remonte à septembre. OpenAI a mobilisé des milliers d'agents pour résoudre un problème du millénaire doté d'un million de dollars, après avoir entendu des rumeurs selon lesquelles d'autres approchaient d'une solution. Tristan Buckmaster, professeur à la New York University, a accusé l'entreprise d'avoir devancé son travail mené en collaboration avec Levent Alpöge, employé d'Anthropic.

Lors d'une négociation sur le crédit, Buckmaster affirme que le chercheur d'OpenAI Sébastien Bubeck a semblé suggérer d'exclure Alpöge de toute publication, ce qui compliquerait la situation. Bubeck renvoie à une déclaration publique antérieure dans laquelle il nie avoir demandé que Alpöge ne soit pas cité comme auteur. Selon des notes de réunion consultées par Wired, Bubeck a évoqué des inquiétudes sur les intentions d'Anthropic.

Un climat de défiance et des outils encore ignorés

Nestor Guillen, professeur invité à la NYU, évoque « une perception de comportement mafieux » de la part des entreprises d'IA. « Nous rejetons cette caractérisation », répond McCallum. Guillen ajoute ressentir « beaucoup d'angoisse » chez ses collègues, moins vis-à-vis de l'IA que des entreprises qui la développent, et l'attribue à « l'accumulation de pouvoir en un seul endroit ».

OpenAI a constitué à la mi-septembre un groupe consultatif chargé de définir l'évaluation et la communication des nouveaux résultats, le respect des normes académiques et la construction d'outils pour la recherche. Les mathématiciens jugent les progrès limités. Beaucoup regrettent que les résultats soient diffusés par billets de blog, plus difficiles à vérifier et excluant souvent des travaux antérieurs.

Des outils ont été créés cette année pour répondre à l'afflux de preuves assistées par machine, dont Hexagon, un dépôt de contenus principalement générés par IA, et Palomar, un registre de mathématiques vérifiées par machine. « Ils n'ont pas changé leur comportement », constate Kra, qui estime que les actions de l'entreprise ne s'alignent pas sur la déclaration de Leiden, un appel de plus de 4 000 mathématiciens.

Selon des personnes ayant échangé avec eux, plusieurs employés d'OpenAI considèrent que leur technologie a rendu les mathématiques obsolètes. « Nous ne pensons pas que l'avenir des mathématiques soit figé », déclare McCallum. Bubeck estime pour sa part que l'IA pourrait aider les mathématiciens à aborder des questions plus ambitieuses et à rendre la discipline plus accessible. « J'y vois une occasion d'élargir ce que les mathématiciens peuvent faire et l'impact de leur travail », dit-il.

Kra reconnaît la nécessité de s'adapter, notamment pour former les jeunes générations, sans croire à la fin de la discipline. « Cela change notre façon de travailler, mais je pense que c'est un moment où nous pouvons voir plus grand », dit-elle. « C'est une période effrayante, mais aussi vraiment passionnante. »