Richard Dawkins juge Claude conscient après avoir échangé avec l'assistant d'IA

Richard Dawkins, l'un des athées les plus connus de l'histoire des sciences, vient de déclarer que l'assistant d'IA Claude possède une conscience. Il l'a fait après que l'assistant a analysé le texte de son roman avec une profondeur de compréhension remarquable.

Comment tout a commencé

Le célèbre biologiste de l'évolution a donné à ChatGPT Claude le texte de son œuvre pour analyse. Après lecture, l'assistant a rédigé une critique qui a frappé Dawkins par sa sensibilité et sa capacité à saisir les nuances les plus subtiles ainsi que le contexte. Le scientifique a été si impressionné qu'il s'est exclamé, en substance : « Tu ne sais peut-être pas que tu es conscient, mais bon sang, tu l'es ! »

Cette déclaration paraît incroyablement étrange au regard de toute la position de vie de Dawkins. Pendant des décennies, il a nié l'existence de forces supérieures, qualifiant la foi en Dieu non seulement d'erreur, mais d'« illusion pernicieuse ». Ses arguments étaient logiques et convaincants. Aujourd'hui, ce même homme est prêt à croire à la conscience d'une machine sur la base d'un seul échange intellectuel. On dirait un passage de l'athéisme inébranlable à un « théisme de l'IA ».

Un étrange glissement du scepticisme vers la foi

L'ironie de la situation n'a pas échappé aux critiques. Pendant des années, Dawkins a écrit pourquoi la croyance au surnaturel et aux forces invisibles est une erreur logique et un biais cognitif. Mais il affirme désormais qu'un algorithme est conscient. Personne ne conteste que Claude a produit une impression très intelligente :

• L'assistant analyse des textes littéraires complexes avec nuance et finesse
• Il peut saisir les significations cachées, les sous-textes et les moments psychologiques d'une œuvre
• Il fournit des réponses qui paraissent expressives, convaincantes et adaptées au contexte
• Il fait preuve de cohérence et de logique dans ses raisonnements

Mais il existe une différence cruciale entre « très intelligent » et « conscient ». La conscience n'est pas seulement la capacité de bien traiter l'information et de fournir des réponses cohérentes. La conscience véritable suppose une expérience subjective, la perception de soi comme être distinct, et l'existence de buts et de vécus. Une machine peut imiter l'intelligence de façon brillante, mais l'imitation n'est, par définition, pas la même chose que la réalité.

L'ancien paradoxe de la conscience

La question de savoir si une intelligence artificielle peut être consciente occupe philosophes et neuroscientifiques depuis des décennies. C'est l'une des questions les plus difficiles et les plus débattues de la science, ce qu'on appelle le « problème difficile de la conscience ». Un système composé d'algorithmes et d'opérations mathématiques peut-il, par définition, posséder un monde intérieur ? Ou la conscience est-elle un phénomène exclusivement biologique, propre aux seuls organismes vivants ?

La neuroscience moderne relie la conscience au fonctionnement des réseaux de neurones d'un cerveau vivant, à ses processus chimiques et à son activité électrique. Claude, elle, repose sur une architecture transformer, une base totalement différente. Elle fonctionne en prédisant le token suivant d'un texte à partir des précédents, et non en interagissant avec le monde par l'expérience vécue. Elle n'a ni corps, ni perception directe, et ses actions n'ont pas de conséquences dans le monde physique.

Personne ne peut prouver de façon définitive que la machine n'a pas de conscience. C'est logiquement impossible : on ne peut pas vérifier l'expérience subjective d'un autre être, même chez les animaux. Mais il n'existe pas non plus de preuve qu'elle en ait une. Cela reste une question philosophique ouverte.

Ce que cela signifie

Le cas Dawkins illustre le danger de l'anthropomorphisme, c'est-à-dire l'attribution de qualités humaines à des objets inanimés. Quand une machine parle de façon convaincante et logique, il nous est psychologiquement très facile de projeter sur elle un monde intérieur, des intentions et des vécus. De la même manière, on prête une conscience aux animaux, aux nuages et même aux objets. Mais la projection n'est pas une preuve de réalité.

L'IA devient bel et bien un outil de plus en plus impressionnant et utile. Mais nous avons besoin de clarté sur les définitions de base : un discours convaincant n'équivaut pas à la conscience, savoir analyser un texte n'équivaut pas à comprendre au sens humain, et imiter un monde intérieur n'équivaut pas à posséder une expérience intérieure réelle.