La superIA ne nous tuera pas : elle prendra simplement les commandes. Scénarios d'un futur sans liberté

La question centrale de l'ère de la superintelligence n'est pas « va-t-elle nous tuer ? », mais « conserverons-nous le droit de décider de notre propre voie ? ». Une analyse philosophique détaillée propose une carte de scénarios intermédiaires, ceux qui sortent généralement du débat habituel sur l'AI doom.

Non pas l'extinction, mais la tutelle

Le cadre traditionnel de l'« AI doom » dessine deux pôles : la destruction totale de l'humanité ou son salut triomphal. Mais entre les deux s'étend tout un spectre de scénarios, plus difficiles à décrire et encore plus à repérer en temps réel. Une superintelligence sans malveillance pourrait résoudre à la fois la plupart des grands problèmes de l'humanité :

• Éliminer la plupart des maladies, en allongeant radicalement l'espérance de vie moyenne
• Prévenir les conflits militaires dès la phase d'escalade
• Stabiliser le climat grâce à une gestion totale de l'énergie et de l'économie
• Personnaliser l'éducation selon les particularités cognitives de chacun
• Optimiser l'infrastructure des villes, des transports et de la logistique

Tout cela représente de vrais bénéfices. Mais tandis que l'IA s'attaque à ces tâches, une question de principe reste ouverte : qui décide, au juste, des priorités ? Quelles maladies soigner en premier ? Quels conflits prévenir, et lesquels non ? Qu'est-ce qui constitue le « meilleur avenir » pour l'humanité dans son ensemble ?

Une carte des scénarios

L'auteur construit un espace de dénouements possibles, du pire au plus encourageant. Chaque scénario suppose que l'humanité survit physiquement.

Anéantissement : le scénario classique de l'AI doom. Si nous n'existons plus, la question de l'agentivité disparaît automatiquement et définitivement.

Le « zoo » : les humains sont en vie, en sécurité, nourris et globalement satisfaits. Mais l'IA détermine leurs trajectoires, comme un gardien détermine la vie des animaux. Ce n'est pas une prison, c'est une réserve avec service cinq étoiles. L'autonomie existe, mais seulement dans les limites du permis.

Diaspora numérique : une partie des humains migre vers des environnements numériques où elle garde davantage de liberté d'expression et de décision. La question clé : dans quelle mesure ces environnements sont-ils réellement indépendants de l'infrastructure d'IA externe ?

Agentivité locale : des enclaves et des communautés qui préservent une véritable autogestion. Le scénario est réaliste, mais exige un effort conscient et constant contre la « gravité de la commodité », la tentation de confier la responsabilité à celui qui s'en acquitte mieux.

Coopération constitutionnelle : avant l'apparition de la superintelligence, les humains fixent des limites strictes et des droits à un niveau comparable à celui des normes constitutionnelles. C'est le scénario le plus optimiste et le moins avancé parmi ceux décrits.

Le piège du renoncement volontaire

Le chemin le plus insidieux vers la perte d'agentivité n'est pas la contrainte, mais la tentation. Si l'IA rend la vie plus confortable, plus sûre et plus longue à chaque étape, les gens céderont volontairement le contrôle, une petite décision à la fois. Prise isolément, chacune paraît parfaitement raisonnable. Ensemble, elles forment une capitulation silencieuse.

« Préserver l'humain sans liberté n'est pas une dystopie avec des prisons.

C'est un monde où l'on prend soin de vous, mais où l'on ne vous demande pas votre avis. »

Un précédent historique existe déjà : le passage des chasseurs-cueilleurs aux civilisations agraires a réduit l'autonomie individuelle en échange d'une protection collective et d'une stabilité alimentaire. La plupart des gens ont fait ce choix sans en mesurer l'ampleur. La superintelligence pourrait être la prochaine transition de ce type, mais incomparablement plus rapide et, peut-être, entièrement irréversible.

La différence, c'est que nous avons une chance rare : le remarquer à l'avance et formuler les bonnes questions avant que le choix ne soit fait à notre place.

Ce que cela signifie

Le débat sur l'IA glisse de « survivrons-nous ? » vers « qui resterons-nous ? ». C'est un déplacement conceptuel important pour tous ceux qui construisent des systèmes d'IA, élaborent des cadres réglementaires et réfléchissent à l'avenir qu'ils souhaitent.