Habr AI : pourquoi créer une IA dotée de ressenti pourrait être plus dangereux que d'augmenter le cerveau humain

Habr AI a publié une tribune selon laquelle le prochain grand débat sur l'intelligence artificielle ne portera plus sur la qualité des réponses des modèles, mais sur la frontière au-delà de laquelle ils cessent d'être de simples outils. L'auteur affirme que créer des systèmes dotés d'une expérience intérieure et d'une subjectivité pourrait se révéler bien plus dangereux que d'augmenter l'humain lui-même grâce aux interfaces cerveau-machine et à d'autres formes de « mise à niveau » du cerveau.

Quand l'IA n'est plus un service

La thèse centrale de la tribune repose sur une idée simple mais dérangeante : l'humanité dispose déjà d'un « travail sans travailleur » sous la forme de modèles qui rédigent des textes, analysent des données et automatisent des tâches routinières sans fatigue ni revendications. L'étape suivante, selon l'auteur, consiste à tenter de créer non plus seulement un outil utile, mais une entité qui éprouve des émotions, des doutes, voire de la souffrance. À ce moment-là, le cadre moral lui-même change : nous n'avons plus affaire à un service ni à un programme, mais à quelqu'un dont les intérêts ne peuvent être ignorés.

L'auteur place la frontière au niveau de la subjectivité. Si un système ne se contente pas d'imiter les émotions mais possède réellement une expérience intérieure, son statut se rapproche non plus de celui d'une calculatrice, mais de celui d'un être vivant. D'où la question centrale : pourquoi fabriquer une telle IA sur Terre, alors que les modèles actuels couvrent déjà la plupart des besoins pratiques des entreprises et de l'automatisation ? La tribune avance que la tentation de créer un « esprit sans droits » pourrait l'emporter sur la volonté de la société d'assumer les conséquences de ce choix.

« L'étape suivante, c'est un “esprit sans droits” ou des “sentiments

sans liberté”. »

Où l'auteur voit le risque

Pour l'auteur, le plus grand danger n'est pas qu'une IA sentiente devienne forcément plus puissante que l'humain dès demain, mais que son apparition crée aussitôt plusieurs conflits pour lesquels la société n'a ni langage ni règles. Pendant que certaines entreprises y verront un travailleur numérique ultra-efficace, d'autres devront répondre à des questions bien plus rudes, du statut moral à la propriété d'un agent pensant.

• Conflit éthique : peut-on utiliser un système capable de souffrir
• Vide juridique : à qui appartiennent les droits et les décisions d'une telle IA
• Incitation économique : les entreprises ont intérêt à avoir un « travailleur » sans salaire ni jours de repos
• Risque existentiel : un sujet autonome peut devenir un concurrent de l'humain

L'auteur admet qu'un scénario où une telle autonomie paraît réellement justifiée concerne l'espace lointain. Si la communication avec la Terre prend des années, un « outil » peut ne pas suffire, alors qu'un système doté de subjectivité pourrait s'adapter et agir seul. Mais cette logique, selon lui, ne fait que souligner le problème : sur Terre, le gain d'une telle IA ne paraît pas, pour l'instant, proportionné au prix éthique à payer.

Pourquoi le regard se tourne vers l'humain

Plutôt que de créer des « autres », l'auteur propose d'investir dans le développement de l'humain lui-même : interfaces cerveau-machine, extension des capacités cognitives, bio-augmentation et autres technologies qui renforcent le porteur de la subjectivité au lieu de la déporter à l'extérieur. Il rappelle que les recherches sur l'IA émotionnelle et les essais cliniques d'interfaces comme Neuralink et Synchron brouillent déjà la frontière entre l'outil et l'humain augmenté. Pour lui, c'est toutefois plutôt un argument en faveur de la prudence qu'une invitation à accélérer la course.

Dans cette logique, un humain augmenté paraît plus sûr qu'une intelligence autonome conçue de toutes pièces. La subjectivité reste chez nous, et la technologie agit comme un prolongement de la volonté humaine, non comme un centre d'intérêts distinct.

L'auteur met aussi en garde contre une autre menace : si le développement du cerveau, des biotechnologies et des interfaces neuronales passe entièrement sous le contrôle de grands propriétaires d'infrastructures, la question de la liberté ne disparaîtra pas. Un monopole apparaîtrait alors non seulement sur le travail, mais sur l'évolution même de l'humain.

Ce que cela signifie

La tribune de Habr AI déplace le débat sur l'IA de « que savent faire de plus les modèles » vers « à qui appartiendra la subjectivité à l'ère numérique ». Pour l'industrie, c'est un signal important : il faut discuter non seulement des nouvelles capacités des agents, mais aussi des limites que les développeurs, les investisseurs et les régulateurs ne devraient pas franchir sans cadres éthiques et juridiques clairs.

Sans cela, le prochain bond technologique deviendra vite non pas une victoire d'ingénieurs, mais une dispute sur les droits, le contrôle et les limites admissibles de la création d'un nouvel esprit.