Pourquoi les progrès de DeepMind vers l'AGI ne répondent pas à la grande question de la conscience des machines

Au cœur du nouveau débat sur l'AGI, la question n'est pas de savoir si la machine deviendra plus intelligente, mais si elle aura une expérience intérieure. L'auteur de l'article affirme que les systèmes numériques peuvent accroître leur intelligence, mais que cela ne les rapproche pas de la conscience.

Protéine et vie

Le point de départ de l'auteur est volontairement terre à terre : plutôt que de spéculer sur des formes hypothétiques d'esprit, il propose de regarder ce que la science sait déjà. Toutes les formes de vie observées reposent sur la protéine et l'organisation cellulaire. D'où le retour à la définition classique de la vie que Friedrich Engels a formulée dès 1883. Ce qui compte n'est pas seulement la base protéique, mais aussi le métabolisme permanent, sans lequel un système ne se maintient pas en vie.

Même le paradoxe du virus, qu'on oppose d'ordinaire à cette approche, joue ici plutôt en faveur de l'argument. Le virion contient de la protéine, mais hors de la cellule il ne montre aucun signe de vie et ne se comporte comme un être vivant qu'à l'intérieur du système métabolique de l'hôte.

L'auteur en tire une conclusion prudente mais ferme : la protéine est probablement nécessaire, sans être suffisante en soi. On peut imaginer une vie sur un autre substrat, mais pour l'instant ce n'est que de l'imagination, pas un fait établi.

Il relie cette thèse à l'actualité récente de l'IA. Lorsque, le 9 octobre 2024, Demis Hassabis et John Jumper ont reçu le prix Nobel de chimie pour AlphaFold2, il ne s'agissait pas seulement de récompenser un algorithme performant. Dans la logique de l'auteur, c'est un rappel que la percée la plus visible de l'IA n'a pas consisté à créer une machine consciente, mais à étudier les protéines, c'est-à-dire la base matérielle de la vie telle que nous la connaissons.

Intelligence sans ressenti

L'étape suivante consiste à distinguer intelligence et conscience, que les discussions publiques sur l'AGI confondent sans cesse. L'auteur s'appuie sur la distinction de David Chalmers entre les problèmes « faciles » et le problème « difficile » de la conscience. Les problèmes faciles relèvent du traitement de l'information : comment un système reconnaît des formes, réagit à des stimuli et planifie des actions. Le problème difficile est autre : pourquoi une expérience subjective apparaît, les qualia, sans lesquels il n'y a pas de monde intérieur. C'est là, selon l'auteur, que s'arrête l'ingénierie et que commence la philosophie.

Un fait empirique plus simple s'impose aussi : tous les porteurs connus de conscience sont des êtres vivants. Nous n'avons aucun exemple confirmé d'un ordinateur, d'une pierre ou de tout autre système inanimé doté d'une expérience subjective. Ce n'est ni une interdiction stricte ni une preuve définitive, mais c'est une corrélation très stable. Ainsi, même si l'AGI apprend à résoudre davantage de tâches, la puissance de calcul seule ne dit pas si un système éprouve la douleur, la couleur ou le temps.

L'auteur conteste surtout la lecture techno-optimiste des déclarations de DeepMind. Quand, en février 2026, Demis Hassabis a évoqué l'apprentissage continu, la planification à long terme et la cohérence comme propriétés d'une future AGI, il parlait d'intelligence, pas de conscience. L'auteur trace la même frontière en mathématiques : une machine peut démontrer, calculer et parcourir des variantes, mais ne montre pas encore d'intuition, la capacité de « voir » une belle idée avant la démonstration formelle. En ce sens, l'IA reste un résolveur de problèmes très puissant, non un porteur d'expérience intérieure.

Pourquoi l'analogique

Si l'on admet malgré tout que la conscience pourrait théoriquement naître hors d'un cerveau biologique, la question décisive devient celle de l'architecture. L'auteur juge les ordinateurs numériques trop éloignés du cerveau dans leurs principes de base. Le cerveau utilise des signaux continus, des courants ioniques et un lien étroit entre mémoire et calcul. La machine numérique classique est conçue autrement. Il estime donc que comparer directement le cerveau à un ordinateur ordinaire est une simplification trop grossière :

• états discrets 0 et 1 au lieu de transitions continues
• synchronisation rigide par horloge au lieu d'une dynamique biologique asynchrone
• séparation de la mémoire et du processeur dans l'esprit de l'architecture de von Neumann
• transferts de données constants au lieu de calculer là où l'information est stockée

De là découle la principale conclusion d'ingénierie de l'article : si une conscience non protéique est possible, elle exigera plutôt des systèmes analogiques ou neuromorphiques que des GPU et TPU ordinaires. Comme candidats, l'auteur cite les memristors, les puces photoniques et des architectures comme SpiNNaker2. Leur point commun : tenter de se rapprocher du fonctionnement réel du cerveau. Ce n'est pas un hasard si les chercheurs de ces systèmes parlent de plus en plus d'une logique de calcul ionique, et non purement électronique.

«

Les ions sont un meilleur support que les électrons pour incarner les principes du cerveau. »

Dans ce contexte, la prévision d'une AGI prochaine cesse de ressembler à une voie automatique vers une machine consciente. Oui, les modèles numériques écriront de meilleurs textes, gagneront aux jeux et aideront la science. Mais la thèse de l'auteur est autre : l'intelligence peut passer à l'échelle en numérique, alors que la conscience, si elle apparaît un jour hors de la biologie, exigera un tout autre substrat et une tout autre physique du calcul. La puissance seule, selon lui, ne suffit pas.

Ce que cela signifie

Pour l'industrie de l'IA, c'est une précision importante : même une AGI très puissante n'équivaut pas à un être conscient. La discussion glisse peu à peu de « combien de GPU faut-il encore » à « quelle architecture est capable de produire une expérience subjective », et le marché n'a pas encore de réponse convaincante. C'est pourquoi le débat sur l'AGI bute de plus en plus non sur le logiciel, mais sur la base matérielle du calcul.