L'illusion de l'omniscience : comment les chatbots font de nous des amateurs trop sûrs d'eux

Imaginez que vous vous sentiez soudain expert en physique quantique, en architecture baroque et en code Rust à la fois. Il aura suffi d'un abonnement à ChatGPT et de quelques requêtes bien choisies. Ce sentiment agréable de toute-puissance que nous offre l'IA générative actuelle se révèle un piège perfide. Nous entrons dans une ère où la frontière entre « je sais » et « je sais où demander » s'efface pour de bon. Les conséquences de ce flou peuvent être bien plus graves que quelques mauvaises réponses à un examen ou une bêtise dans le chat du bureau. Nous assistons à la naissance de la machine parfaite pour produire l'effet Dunning-Kruger.

Les psychologues sociaux David Dunning et Justin Kruger ont décrit dès la fin des années 1990 ce biais cognitif : les personnes peu compétentes dans un domaine tirent des conclusions erronées et prennent de mauvaises décisions, mais sont incapables de reconnaître leurs erreurs, précisément à cause de cette faible compétence. Auparavant, pour en arriver là, il fallait au moins lire quelques articles superficiels ou regarder une vidéo douteuse. Désormais, les réseaux de neurones fournissent en quelques secondes des réponses structurées, assurées et d'apparence logique.

L'utilisateur qui reçoit un tel résultat s'approprie ce savoir de façon inconsciente. Le cerveau se laisse tromper par la forme : si j'ai su formuler la question et obtenir une réponse complexe, c'est que je maîtrise ce domaine.

Le problème tient à la mécanique de notre apprentissage. Comprendre réellement un sujet exige toujours un effort, ce qu'on appelle la friction cognitive. Pour apprendre vraiment quelque chose, il faut douter, chercher des liens, se tromper et corriger ses erreurs. L'IA supprime totalement cette friction. Quand l'algorithme livre une solution toute faite, notre cerveau saute l'étape de la synthèse critique. Nous devenons les opérateurs d'une intelligence extérieure, en prenant sa puissance de calcul pour notre propre érudition. C'est comme quelqu'un qui utilise une calculatrice depuis le CP et se prend pour un mathématicien sans comprendre les principes de la division posée.

Les recherches montrent une dynamique inquiétante dans l'éducation et en entreprise. Les étudiants qui utilisent des assistants IA obtiennent d'excellents résultats aux tests à court terme, mais échouent une semaine plus tard aux vérifications approfondies de leur compréhension de la logique du processus. Ils se souviennent de la réponse, pas du chemin qui y mène. En entreprise, c'est encore plus net : des cadres intermédiaires se mettent à présenter des stratégies et des analyses générées par un réseau de neurones, persuadés de leur perfection. Ils ne peuvent pas vérifier les hallucinations du modèle, faute de bases solides pour repérer le piège. La confiance augmente avec la sophistication des outils, tandis que la compétence réelle stagne.

Il est ironique que les géants technologiques promeuvent l'IA comme un outil de démocratisation du savoir. Mais le savoir n'est pas un simple ensemble de faits accessibles en un clic. Ce sont des connexions neuronales forgées par le travail intellectuel. La facilité avec laquelle l'IA résout nos problèmes nous prive de la douleur intellectuelle nécessaire pour progresser. Nous risquons de devenir une civilisation d'amateurs high-tech. Nous faisons confiance à la boîte noire non parce que nous comprenons son fonctionnement, mais parce qu'elle parle bien et avec assurance, flatte notre ego et confirme nos propres préjugés.

À long terme, cela menace d'une crise systémique de l'expertise. Si chacun peut générer un document juridique ou un conseil médical, la valeur de l'expérience réelle baisse aux yeux de la société. Mais quand l'IA se trompe, l'amateur sûr de lui est démuni. Non seulement il ignore la réponse, mais il ne sait pas qu'il l'ignore. Ce fast-food intellectuel rassasie vite et donne l'illusion d'être plein, mais laisse le cerveau épuisé. Il est temps d'admettre que savoir manier les prompts ne nous rend pas plus intelligents. Cela fait seulement de nous des utilisateurs plus efficaces de la pensée des autres.

L'essentiel : l'IA est un exosquelette pour l'esprit, pas son remplaçant. Si vous l'utilisez sans solliciter vos propres neurones, vos muscles cognitifs finiront inévitablement par s'atrophier. Sommes-nous prêts pour un monde où, derrière la façade de brillantes réponses de réseaux de neurones, se cache le vide de notre propre incompréhension ?