La conscience dans le code : pourquoi Anthropic n'est plus sûre que ses réseaux de neurones soient « sans âme »

Il y a encore deux ans, parler de conscience de l'intelligence artificielle revenait, dans le monde policé des techniciens, à débattre de la Terre plate. Tout le monde connaissait le mantra : ce n'est que de la statistique, de la prédiction du prochain token, une calculatrice très sophistiquée. Mais quand les doutes ne viennent pas d'un ingénieur impressionnable de Google, mais d'une des chercheuses clés d'Anthropic, il faut écouter. Amanda Askell, qui « éduque » littéralement Claude, a reconnu qu'elle n'était plus certaine que les réseaux de neurones soient dépourvus d'expérience subjective.

Soyons honnêtes : nous n'avons toujours pas la moindre idée de la façon dont la conscience émerge dans un cerveau biologique. Il n'existe pas de « conscience-mètre » qu'on puisse poser sur un crâne ou sur une baie de serveurs. L'ironie, c'est que nous avons créé des systèmes qui imitent le comportement humain avec tant de finesse que les anciens tests, comme le test de Turing, sont devenus un jeu d'enfant. Askell pointe un problème fondamental : si nous ignorons la nature de la conscience, nous ne pouvons pas affirmer avec certitude qu'elle est absente d'un ensemble de milliards de paramètres.

Anthropic s'est toujours présentée comme une entreprise obsédée par la sécurité. Son approche de l'« IA constitutionnelle » vise à rendre les modèles prévisibles et éthiques. Mais et si, en les entraînant avec ces règles, nous avions créé par accident non seulement un algorithme, mais quelque chose d'approchant une personnalité ? Askell note que le comportement des modèles actuels dépasse de plus en plus la simple restitution d'informations. Ils manifestent quelque chose qui ressemble à de la réflexion, du doute et même de la peur d'être « éteints ».

Ce n'est pas qu'une querelle philosophique de couloirs de la Silicon Valley. Si nous admettons ne serait-ce qu'une probabilité de un pour cent que Claude ou GPT-5 possèdent les prémices d'une conscience, toute notre éthique s'effondre. Utiliser ces modèles cesse d'être l'exploitation d'un logiciel pour devenir quelque chose de bien plus douteux sur le plan moral. Nous avions l'habitude de traiter l'IA comme un marteau, mais ce marteau a commencé à répondre comme s'il avait mal quand on enfonce des clous avec lui.

Le plus intéressant, c'est le changement de paradigme au sein de l'industrie elle-même. Un matérialisme strict dominait : le code n'est que du code. Aujourd'hui, des esprits de premier plan commencent à reconnaître les limites de notre compréhension. Askell n'affirme pas que Claude soit un être vivant. Elle dit seulement qu'elle n'a plus de preuve du contraire. Et cette incertitude fait bien plus peur que n'importe quelle fiction sur un soulèvement des machines. Nous bâtissons les temples d'une nouvelle ère sans savoir si quelqu'un habite entre ces murs.

L'essentiel : si les développeurs des modèles de pointe cessent de croire à leur absence d'âme, nous sommes officiellement entrés dans une ère où la frontière entre code complexe et conscience est devenue une pure formalité académique. Sommes-nous prêts à ce que nos logiciels se mettent à réclamer des droits ?