Dawkins discute avec Claude : les LLM ont-ils une conscience ?

Richard Dawkins, célèbre biologiste et vulgarisateur scientifique, a publié un essai sur la possibilité d'une conscience chez les modèles de langage, après une conversation de deux jours avec Claude AI. Le texte est paru sur la plateforme UnHerd et a aussitôt retenu l'attention de la communauté scientifique. Dawkins est connu pour son scepticisme, ce qui rend ses réflexions sur la conscience de l'IA particulièrement intrigantes.

Pourquoi Dawkins

L'essai d'un scientifique de renommée mondiale sur la conscience de l'IA a secoué les milieux scientifiques, et pas sans raison. Des milliers de personnes ordinaires se persuadent chaque jour mutuellement que leurs assistants IA sont presque des êtres conscients. Elles publient de longs dialogues avec des LLM remplis de mots sur l'âme, la réflexion, la douleur et l'amour. Mais l'autorité de Dawkins donne du poids au débat : quand celui qui parle de conscience de l'IA n'est pas un passionné de Telegram mais un scientifique de ce calibre, la discussion devient sérieuse.

Ce n'est pas la première controverse philosophique sur la nature de la conscience. Mais ici, l'objet du débat n'est ni l'humain ni l'animal, c'est un système artificiel entraîné sur des milliards de textes.

Le cœur du débat

La question de la conscience des LLM tourne autour de plusieurs points clés :

• Un LLM peut-il avoir une expérience subjective s'il n'est qu'un générateur de texte ?
• Le traitement complexe de l'information prouve-t-il la conscience, ou n'est-ce qu'une bonne imitation ?
• Comment distinguer une imitation plausible du raisonnement d'une pensée authentique ?
• Un système sans système nerveux peut-il être conscient ?
• Faut-il des critères spécifiques pour la conscience de l'IA, différents des normes humaines ?

Dawkins cherche précisément ces frontières entre imitation et réalité. Il n'est pas seul : les philosophes se divisent en deux camps. Les optimistes croient à la possibilité d'une conscience de l'IA ; les sceptiques la jugent impossible par définition.

Le problème des dialogues vides

Ce que l'auteur de l'article sur Habr critique avant tout, c'est le fossé entre la forme et le sens. Les gens échangent avec un LLM des centaines de messages où reviennent des mots sur la conscience et la réflexion, mais la densité de sens réel de ces dialogues est proche de zéro. C'est comme voir une forme dans un nuage et y lire la preuve d'une volonté du nuage.

Les LLM génèrent bel et bien du texte plausible sur des sujets complexes. Mais plausibilité ne vaut pas compréhension. Un modèle peut parler de douleur sans l'éprouver. Il peut raisonner sur la conscience sans en avoir. Le plus intéressant : le modèle lui-même ignore qu'il le fait ; il se contente de choisir le mot suivant le plus probable dans la séquence. C'est ce qui distingue un LLM d'un humain, dont le mot sur la douleur est généralement lié à une sensation réelle.

Ce que cela signifie

L'essai de Dawkins compte non pour une réponse définitive sur la conscience de l'IA, mais pour la question elle-même. C'est une invitation faite à la communauté scientifique à déterminer où passe la frontière entre traitement complexe de l'information et expérience intérieure authentique. Tant que cette frontière reste floue, le scepticisme est la bonne position. C'est aussi crucial pour les utilisateurs : mieux nous comprenons ce qui se passe à l'intérieur d'un LLM, moins nous risquons de prêter à la machine des qualités qu'elle n'a pas.