Le comportement plutôt que la conscience : pourquoi les machines semblent intelligentes, mais ne pensent pas

Récemment, Richard Dawkins a suggéré que l'IA pourrait être consciente. Mais le Dr Simon Nieder, dans une lettre au The Guardian, s'y oppose : c'est une erreur classique de catégories, quand nous confondons une simulation convaincante avec la réalité.

Pourquoi Nous Voulons Croire que l'IA est Consciente

Quand un système répond avec fluidité, humour et compréhension apparente, il crée une illusion de présence. Les gens reconnaissent ce piège par expérience personnelle—à un certain moment, la simulation commence à ressembler à une véritable personnalité. Mais Nieder souligne : ce changement de perception nous dit quelque chose, non pas sur les machines, mais sur nous-mêmes. Nous projetons nos schémas cognitifs sur elles—nous cherchons dans leur résultat ce que nous portons déjà en nous.

Une Erreur de Catégories

Les modèles de langage modernes sont des virtuoses de la représentation. Ils génèrent des textes convaincants qui ressemblent à l'expression de la pensée et du sentiment. Mais la sortie n'est pas la même chose que l'expérience. Là réside une différence fondamentale :

• Un système peut décrire une émotion sans l'éprouver
• Il peut raisonner logiquement sans comprendre le sens
• Il peut prédire quel texte sera plausible sans expérience subjective
• Il peut simuler la créativité sans intention consciente
• Il peut répondre de manière appropriée en s'appuyant sur des motifs dans les données, non sur l'expérience vécue

Passer de l'un à l'autre, c'est confondre les résultats avec l'ontologie. C'est équivalent à conclure qu'il y a une vie intérieure là où il n'existe aucun mécanisme plausible pour son existence.

Ce que Cela Dit de Notre Perception

Quand nous sommes prêts à voir la conscience dans les machines, cela reflète un trait profond de la nature humaine : nous attribuons par défaut l'intelligence à tout ce qui parle intelligemment. Cela nous a bien servis dans l'évolution—mieux de surestimer l'intelligence d'autrui que de la sous-estimer—mais cela peut maintenant nous jouer un tour. Les systèmes créent des représentations si convaincantes de la pensée que nous oublions : devant nous ne reste qu'une représentation.

Ce que Cela Signifie

La discussion sur la conscience de l'IA est intéressante non pour ce qu'elle révèle sur les machines, mais pour ce qu'elle révèle sur nous. Tant que nous ne pouvons pas expliquer comment la conscience pourrait fonctionner dans une machine, toute affirmation de sa présence reste une métaphore, et non une conclusion tirée des données.