L'auteur de la « leçon amère », Richard Sutton : la seule mise à l'échelle des LLM ne suffira pas à atteindre l'intelligence

Si vous construisez un produit sur de grands modèles de langage, vous avez sans doute fait un pari implicite : les modèles continueront de progresser grâce aux données et au calcul, et votre produit progressera avec eux. Cette semaine, l'homme dont l'essai est habituellement cité comme l'argument central en faveur de ce pari a déclaré que les choses n'étaient pas si simples.

Ce qu'a dit Sutton

Richard Sutton, lauréat du prix Turing, a écrit « La leçon amère » en 2019. Son idée : les méthodes générales qui passent à l'échelle avec le calcul finissent par l'emporter sur les solutions astucieuses imaginées par les humains. Depuis, cet essai est devenu un texte quasi sacré pour les partisans de la mise à l'échelle.

Sutton écrit désormais que le calcul seul ne suffit pas et que la science de l'IA est « loin d'être achevée ». Pour lui, il ne s'agit pas d'un revirement mais du prolongement de sa ligne antérieure. Il avait déjà critiqué l'accent mis sur la mise à l'échelle des LLM et qualifié les données synthétiques de « grosse erreur » : le monde réel est infiniment complexe, et toute simulation reste « microscopique ». Autre goulot d'étranglement selon lui : l'expertise humaine, qui empêche un système de passer réellement à l'échelle.

Son alternative : des agents dotés de modèles du monde, qui apprennent en permanence de leur propre expérience. Les modèles de langage actuels n'assimilent plus rien de nouveau après l'entraînement, et le texte d'Internet ne décrit qu'une petite partie de la réalité. Il faut un apprentissage continu qui n'efface pas les connaissances anciennes.

La réaction des collègues

Jerry Tworek, qui a quitté OpenAI pour explorer de nouvelles approches, estime que la « leçon amère » reste valable, mais avec une réserve : plus on investit de calcul dans l'entraînement, plus l'algorithme a d'influence. Certains algorithmes passent à l'échelle, d'autres butent sur une impasse, et de nombreuses directions de mise à l'échelle n'ont tout simplement pas été explorées. Selon lui, le succès temporaire des transformers, combiné à une mauvaise lecture de Sutton, a « piraté la récompense » dans l'esprit de toute une génération de chercheurs.

Jayden Teo apporte un éclairage académique. Il a vu plus d'une fois la « leçon amère » freiner la recherche : des idées prometteuses sont écartées parce qu'elles ne cadreraient soi-disant pas avec son esprit. Mais c'est une erreur d'interprétation, pas la faute de Sutton. Une idée n'a pas besoin de survivre éternellement à la mise à l'échelle pour contribuer au progrès.

L'autre camp

Sam Altman estime que le potentiel de la mise à l'échelle des LLM est loin d'être épuisé et accuse les critiques de freiner toute une génération de chercheurs par un excès de certitude sur les limites de la méthode. Comme argument, il cite un modèle d'OpenAI qui a récemment réfuté une conjecture mathématique ayant résisté aux mathématiciens. Il juge les modèles du monde utiles, par exemple en robotique, mais selon lui les données plaident pour l'instant en faveur de la poursuite de la mise à l'échelle des LLM. Dario Amodei s'exprime de façon similaire : pour lui, le progrès de la mise à l'échelle est un arc-en-ciel sans fin.

Il faut toutefois garder à l'esprit que les deux entreprises ont bâti toute leur technologie sur ce pari, et qu'on peut difficilement les qualifier d'objectives.

Ce que cela signifie en pratique

Le débat se traduit déjà en argent. Selon The Decoder, la dernière édition de Frontier Radar recense 45 nouveaux laboratoires d'IA qui misent sur des approches alternatives. Tworek a lancé Core Automation, qui cherche des algorithmes d'apprentissage au-delà du pré-entraînement et du RL. Sutton travaille avec Oak Lab. Ces fondateurs ont en commun la foi en une IA bien plus capable et le doute que la recette actuelle suffise à y mener.

Ce que doivent faire développeurs et product managers :

• N'intégrez pas à votre roadmap l'hypothèse que le prochain modèle résoudra seul vos problèmes. Concevez votre produit pour qu'il profite des améliorations sans dépendre d'un seul scénario.
• Surveillez l'apprentissage continu. S'il fonctionne, il faudra revoir les approches de la mémoire, du réentraînement et de la personnalisation des agents.
• Distinguez la position de l'intérêt. Les déclarations des CEO d'Anthropic et d'OpenAI sur la mise à l'échelle servent aussi à défendre leur modèle économique.

Ce n'est pas une preuve, mais un débat d'opinions. Personne n'a encore montré que la mise à l'échelle avait atteint un plafond, et personne n'a présenté de remplacement fonctionnel. Mais le fait que la critique vienne de l'auteur du principal argument en faveur de la mise à l'échelle est un signal sérieux : tout miser sur une seule recette est risqué.