Gary Marcus contre Nature : pourquoi il est prématuré d'annoncer l'arrivée de l'AGI

Gary Marcus et ses collègues Walter Quattrociocchi et Valerio Capraro ont critiqué un article récent de la prestigieuse revue Nature, qui affirmait que l'intelligence artificielle générale (AGI) avait été atteinte. Les auteurs de la réponse soutiennent que les performances impressionnantes des grands modèles de langage (LLM) sur divers benchmarks, et même sur des problèmes mathématiques complexes, ne prouvent pas l'existence d'une intelligence authentique. Selon eux, ceux qui défendent l'existence de l'AGI commettent une erreur fondamentale : ils confondent la capacité à exécuter des tâches très spécialisées avec une intelligence réellement générale.

Le texte appelle à plus de prudence dans l'emploi de la terminologie et à une analyse plus approfondie et plus réfléchie de ce que nous entendons par « intelligence ».

De plus en plus de voix affirment que l'intelligence artificielle générale existe déjà. La déclaration la plus récente et la plus retentissante en ce sens figure sans doute dans un article publié dans Nature. Ces affirmations s'appuient souvent sur les réalisations des grands modèles de langage (LLM), dont les résultats montrent de bonnes performances sur divers jeux de tests, une aisance dans des domaines variés et, dans certains cas, des solutions correctes à des problèmes mathématiques ouverts. Ces avancées sont fréquemment présentées comme la preuve irréfutable que l'humanité a franchi le seuil de l'intelligence artificielle générale.

Mais, comme le notent à juste titre Marcus et ses coauteurs, ces lectures reposent sur une confusion fondamentale : elles assimilent les résultats obtenus sur des tâches isolées, souvent bien étudiées et standardisées, à l'intelligence elle-même. Réussir des tâches isolées, même de façon impressionnante, ne saurait constituer une preuve suffisante d'intelligence générale. Dans leur article, les auteurs montrent que les affirmations récentes sur l'atteinte de l'AGI reposent sur une erreur conceptuelle : confondre l'approximation statistique, toujours plus sophistiquée, avec l'intelligence elle-même.

Ils soutiennent aussi que les affirmations récentes (par exemple celles publiées par Chen et al., 2026) sur un prétendu succès dans la création de l'AGI dépendent d'une redéfinition de ce que le terme « IA » a historiquement signifié.

L'idée centrale des auteurs est que les LLM actuels, malgré leurs capacités remarquables, sont pour l'essentiel des machines statistiques très complexes. Ils sont entraînés sur d'immenses volumes de données et apprennent à prédire le mot ou la séquence de mots suivants à partir de régularités probabilistes. Cela leur permet de générer du texte, de répondre à des questions et même de résoudre des problèmes qui demandent un certain niveau de logique ou de connaissances.

Mais pour Marcus et ses collègues, cela ne signifie pas que le modèle « comprend » la tâche au sens humain, ni qu'il sait transférer connaissances et compétences à des situations totalement nouvelles et imprévues, un aspect clé de l'intelligence générale. Ils estiment qu'il s'agit plutôt d'une forme très avancée d'imitation ou d'approximation que d'une véritable pensée.

Les conséquences de cette confusion peuvent être considérables. Des annonces prématurées sur l'AGI risquent de provoquer un optimisme excessif, une mauvaise allocation des ressources et, surtout, une sous-estimation des vrais problèmes et défis de la création d'une intelligence artificielle authentique. Elles peuvent aussi nous rendre moins critiques envers les capacités et les limites des systèmes d'IA existants, en leur prêtant un niveau de compréhension qu'ils n'ont pas. Elles peuvent enfin ralentir les recherches visant des systèmes plus fiables, plus interprétables et réellement intelligents.

En conclusion, Gary Marcus et ses coauteurs invitent la communauté scientifique et le grand public à adopter une approche plus sobre et plus critique pour évaluer les progrès de l'intelligence artificielle. Ils soulignent qu'il importe de distinguer les impressionnantes capacités statistiques des LLM de l'intelligence générale authentique, qui suppose la capacité de raisonner, d'apprendre, de s'adapter et de comprendre dans un large éventail de contextes. Tant que ce niveau n'est pas atteint, les annonces de l'arrivée de l'AGI doivent être considérées comme prématurées et fondées sur une mauvaise interprétation des données.