Gary Marcus contre Nature : pourquoi les rumeurs sur l'arrivée de l'AGI sont prématurées

Gary Marcus et ses collègues, Walter Quattrociocchi et Valerio Capraro, ont critiqué un article récent dans le prestigieux journal Nature, qui affirmait avoir réalisé l'intelligence artificielle générale (AGI). Les auteurs de la publication en réponse insistent sur le fait que les succès impressionnants des grands modèles de langage (LLM) sur divers points de repère et même dans la résolution de problèmes mathématiques complexes ne constituent pas une preuve d'une véritable intelligence. De leur avis, les partisans de l'idée que l'AGI existe commettent une erreur fondamentale, confondant la capacité à accomplir des tâches étroitement spécialisées avec la manifestation d'une véritable intelligence générale.

Cet article est un appel à plus de prudence dans l'utilisation de la terminologie et à une analyse plus approfondie et significative de ce que nous entendons par le concept « d'intelligence ».

Récemment, de plus en plus de personnes affirment que l'intelligence artificielle générale existe déjà. L'affirmation la plus récente et la plus notable sur ce sujet figure probablement dans un article publié dans le journal Nature. Ces affirmations sont souvent alimentées par des réalisations impressionnantes dans le domaine des grands modèles de langage (LLM), dont les résultats démontrent des performances élevées sur divers ensembles de données de test, un fonctionnement fluide dans divers domaines et, dans certains cas, même des solutions correctes à des problèmes mathématiques ouverts. Ces développements sont souvent considérés comme une preuve irréfutable que l'humanité a atteint le seuil de l'intelligence artificielle générale.

Cependant, comme le notent à juste titre Marcus et ses coauteurs, ces interprétations reposent sur une confusion fondamentale entre les résultats de tâches individuelles, souvent bien étudiées et normalisées, et l'intelligence elle-même. Accomplir des tâches individuelles, même si cela démontre des résultats impressionnants, ne peut pas être considéré comme une preuve suffisante de la présence d'une intelligence générale. Dans leur article, les auteurs montrent que les affirmations récentes concernant la réalisation de l'AGI reposent sur une erreur conceptuelle—confondre l'approximation statistique de plus en plus complexe avec l'intelligence elle-même.

Ils arguent également que les affirmations récentes (par exemple, publiées par Chen et al., 2026) concernant le prétendu succès dans la création de l'AGI dépendent de la redéfinition de ce que le terme « IA » signifiait historiquement.

L'idée principale que promeuvent les auteurs est que les LLM modernes, malgré leurs capacités frappantes, sont essentiellement des machines statistiques très sophistiquées. Ils sont entraînés sur de vastes ensembles de données et apprennent à prédire le mot suivant ou la séquence de mots suivante en fonction de modèles probabilistes. Cela leur permet de générer du texte, de répondre à des questions et même de résoudre des tâches qui nécessitent un certain niveau de logique ou de connaissance.

Cependant, selon Marcus et ses collègues, cela ne signifie pas que le modèle « comprenne » la tâche au sens humain ou possède la capacité à transférer les connaissances et les compétences à des situations complètement nouvelles et imprévues—un aspect clé de l'intelligence générale. Ils argumentent que cela ressemble plutôt à une forme avancée d'imitation ou d'approximation qu'à une véritable réflexion.

Les conséquences d'une telle confusion peuvent être très significatives. Les affirmations prématurées concernant la réalisation de l'AGI peuvent conduire à un optimisme excessif, une allocation incorrecte des ressources et, plus important encore, une sous-estimation des problèmes réels et des défis associés à la création d'une véritable intelligence artificielle. Cela peut également nous amener à être moins critiques vis-à-vis des capacités et des limitations des systèmes d'IA existants, en supposant qu'ils possèdent un niveau de compréhension qu'ils n'ont pas réellement. De plus, cela peut ralentir les progrès dans la recherche visant à créer des systèmes plus fiables, interprétables et véritablement intelligents.

En conclusion, Gary Marcus et ses coauteurs appellent la communauté scientifique et le grand public à adopter une approche plus sobre et critique dans l'évaluation des réalisations dans le domaine de l'intelligence artificielle. Ils soulignent qu'il est important de distinguer entre les capacités statistiques impressionnantes des LLM et la véritable intelligence générale, qui implique la capacité de raisonner, d'apprendre, de s'adapter et de comprendre dans un large éventail de contextes. Jusqu'à ce que nous atteignions un tel niveau, les affirmations concernant l'avènement de l'AGI doivent être considérées comme prématurées et basées sur une mauvaise interprétation des données.