Richard Sutton doute que le compute seul suffise à l'IA

Un constat qui relance le débat sur X

Dans une publication récente, Richard Sutton, lauréat du prix Turing et auteur de l'essai « The Bitter Lesson » paru en 2019, affirme que la puissance de calcul brute ne suffit pas à produire de l'intelligence. La science de l'IA a besoin de méthodes nouvelles et ingénieuses, et elle est « loin d'être terminée », écrit-il, selon The Decoder. Ses propos ont nourri de nombreuses discussions dans la communauté de l'IA sur X.

Son argumentaire n'est pas inédit. Il avait déjà pointé les limites d'une simple montée en échelle des grands modèles de langage. Il qualifie les données synthétiques de « grosse erreur » : le monde réel est d'une complexité infinie et toute simulation n'en restitue qu'une part « microscopique ». L'expertise humaine, en tant que goulot d'étranglement, empêche selon lui un véritable passage à l'échelle.

Des agents capables d'apprendre en continu

Sutton plaide plutôt pour des agents dotés de modèles du monde qui apprennent sans interruption de leur propre expérience. Le monde dépasse massivement ce que le texte disponible sur internet peut capturer, et les modèles de langage actuels cessent d'apprendre une fois l'entraînement terminé. Il défend donc un apprentissage continu qui ne détruit pas les connaissances antérieures.

Le compute change la donne, mais pas seul

Le chercheur Jerry Tworek, qui a quitté OpenAI pour explorer d'autres pistes, remet la position de Sutton en perspective. La leçon amère reste valable, mais plus le calcul investi dans l'entraînement augmente, plus l'algorithme compte, écrit-il, d'après The Decoder. Certains algorithmes passent à l'échelle, d'autres butent sur des impasses, et de nombreuses dimensions du scaling demeurent inexplorées.

Tworek estime que le succès provisoire du scaling des transformeurs, conjugué à une mauvaise lecture de la leçon amère, a « piraté par récompense le cerveau de toute une génération de scientifiques ».

Ne pas écarter trop vite les idées prometteuses

Le chercheur Jayden Teoh apporte un autre éclairage. Il dit avoir vu à plusieurs reprises la leçon amère freiner la recherche académique, des idées prometteuses étant écartées parce qu'elles s'éloignaient trop de son esprit. Il n'en impute pas la faute à Sutton, mais à une interprétation erronée de son message d'origine.

Teoh souligne que des idées qui, avec le recul, semblaient ne pas suivre la leçon amère ont souvent été remplacées par des approches plus générales. Cela ne les rendait pas fausses : elles ont fréquemment permis les progrès de leur époque. « Une idée n'a pas forcément besoin de survivre indéfiniment au scaling pour être une contribution importante au progrès de l'IA », écrit-il.

Deux camps qui s'opposent sur la recette

La tension entre l'appel de Sutton à de nouvelles méthodes et la critique de Tworek envers un scaling aveugle des transformeurs se retrouve dans une vague croissante de startups. Tworek dirige lui-même Core Automation, l'un de ces laboratoires qui cherchent des algorithmes d'apprentissage au-delà du pré-entraînement et de l'apprentissage par renforcement. Ces fondateurs, dont Sutton avec Oak Lab, croient à une IA bien plus capable tout en doutant que la recette actuelle y suffise.

Les grands dirigeants du secteur voient les choses autrement. Le patron d'OpenAI, Sam Altman, juge que le scaling des grands modèles de langage est loin d'être épuisé et reproche aux critiques de ralentir toute une génération de chercheurs en étant trop sûrs de ce que le scaling ne peut pas faire. Il cite en exemple un modèle d'OpenAI ayant récemment réfuté une conjecture mathématique longtemps restée ouverte. Les modèles du monde lui paraissent utiles, notamment en robotique, mais les données favorisent selon lui la poursuite du scaling.

Dario Amodei, à la tête d'Anthropic, tient un discours similaire et décrit le progrès du scaling comme un arc-en-ciel sans fin. Les deux dirigeants sont évidemment juge et partie, l'approche technique de leurs entreprises reposant entièrement sur ce pari.