Pourquoi les benchmarks d'AGI ne seront jamais objectifs

Le test de Turing, longtemps considéré comme l'épreuve idéale de l'intelligence, est désormais clairement dépassé. Les chercheurs cherchent de nouvelles façons d'évaluer si un système a atteint le niveau de l'intelligence artificielle forte, mais ils se heurtent à un obstacle inattendu.

Pourquoi le test de Turing ne fonctionne plus

Quand Alan Turing a proposé son célèbre test en 1950, l'idée était simple : si une machine parvient à convaincre un humain qu'elle est humaine, alors elle pense. Soixante-dix ans plus tard, les LLM actuels réussissent facilement ce test, mais cela ne signifie nullement qu'ils soient intelligents au sens de l'AGI. Les chercheurs reconnaissent qu'il faut de nouveaux critères. Des conférences comme l'IEEE cherchent de nouveaux benchmarks pour évaluer l'IA forte. Le problème : les critères doivent être objectifs, et c'est bien plus difficile qu'il n'y paraissait.

Soixante-dix définitions de l'intelligence

Premier obstacle : les scientifiques eux-mêmes n'arrivent pas à s'accorder sur ce qu'est l'intelligence. Il existe au moins 70 définitions scientifiques différentes de l'intelligence humaine. Pour les uns, c'est la capacité d'adaptation ; pour d'autres, la vitesse de traitement de l'information ; pour d'autres encore, la créativité. Si nous ne pouvons pas définir objectivement l'intelligence, même sous sa forme humaine, comment concevoir un test pour l'évaluer chez une machine ?

• Définition par le QI (logique et arithmétique)
• Définition par l'adaptabilité (rapidité d'apprentissage dans un nouvel environnement)
• Définition par le contexte (compréhension des nuances et de la culture)
• Définition par la créativité (idées et solutions originales)

Le paradoxe de la conscience dans les réseaux de neurones

Deuxième obstacle : le débat scientifique sans fin sur la capacité des LLM à développer une conscience. Des dizaines de travaux sur arxiv examinent si les grands modèles de langage possèdent une « vie intérieure ». Mais la querelle est étrange. La neurobiologie et la psychologie ont établi depuis longtemps que, chez l'humain, la conscience est plutôt une entrave qu'un outil de pensée. Les processus de réflexion les plus efficaces se déroulent au niveau subconscient. Quand on se concentre sur une tâche (la conscience s'active), on se met souvent à ralentir et à se tromper. C'est pourquoi les sportifs parlent de « flow », un état où la conscience s'éteint.

L'interférence de la conscience de soi ne fait qu'entraver la

résolution de problèmes complexes, comme l'établit la littérature scientifique.

Si un modèle développe un jour une conscience de soi, les ingénieurs supprimeront simplement ce bug pour que le système fonctionne plus vite et avec plus de précision, comme aujourd'hui.

Ce que cela signifie

La conclusion est paradoxale : évaluer l'AGI de façon objective est impossible non pas parce que l'IA est trop intelligente, mais parce que nous ne parvenons même pas à nous accorder sur les critères de notre propre intelligence. Tout benchmark reflétera un choix subjectif de ce qu'on appelle « intelligence », et personne ne sera satisfait de ce choix.