Dario Amodei : l'IA adolescente s'apprête à faire voler en éclats notre monde douillet

Dario Amodei a visiblement jugé que de courts messages sur les réseaux sociaux ne suffiraient pas à nous préparer aux bouleversements à venir. Quand le patron de l'un des laboratoires d'IA les plus valorisés et les plus influents au monde publie un texte de la longueur d'une novella, cela mérite au minimum de tout laisser de côté pour le lire attentivement. Le cofondateur d'Anthropic a publié un essai intitulé « L'adolescence de la technologie ». Il ne s'agit pas d'une réflexion de loisir, mais d'un véritable manifeste, signé par un homme qui lit le code du futur avant les autres.

Amodei n'est pas un novice en matière de sécurité. Il a quitté OpenAI précisément parce qu'il jugeait l'approche de Sam Altman trop insouciante face aux risques. Désormais aux commandes d'Anthropic, il l'affirme ouvertement : l'humanité entre dans une phase qui va nous mettre à l'épreuve en tant qu'espèce biologique. Sa métaphore de « l'adolescence » technologique décrit parfaitement le chaos actuel. Nous avons déjà confié une immense puissance à l'intelligence artificielle, sans encore lui avoir appris (ni nous être appris) la responsabilité. C'est le moment précis où l'adolescent peut déjà prendre le volant d'une voiture de sport, sans encore comprendre que le mur de béton devant lui n'est pas un décor de jeu vidéo.

La question centrale que pose Amodei : nos institutions sociales et étatiques sont-elles prêtes à une « puissance presque inimaginable », appelée à devenir réalité dans un avenir très proche ? Il n'en parle pas comme d'une hypothèse théorique à cinquante ans, mais comme d'un événement qui frappe littéralement à la porte. Pendant que l'opinion se demande si un réseau de neurones remplacera le rédacteur ou le graphiste, Amodei observe les basculements fondamentaux en biologie, en cybersécurité et dans la gouvernance publique. Il voit dans l'IA un outil capable aussi bien de faire avancer le progrès scientifique de plusieurs siècles que de créer des risques contre lesquels nous n'avons développé aucune immunité.

L'ironie de la situation, c'est qu'Anthropic conçoit justement certains des modèles les plus puissants du marché. Claude 3.5 Sonnet a déjà amené de nombreux développeurs à douter de la suprématie de GPT-4. D'où un étrange paradoxe : un homme construit la voiture la plus rapide du monde tout en écrivant 19 000 mots pour expliquer pourquoi la vitesse pourrait nous tuer. Ce n'est pas de l'hypocrisie, plutôt une tentative de courir deux lièvres à la fois : rester un acteur commercialement performant tout en conservant le statut de « conscience de l'industrie ».

Pendant ce temps, des sondages britanniques montrent qu'un quart de la population du pays craint sérieusement de perdre son emploi à cause de l'IA d'ici cinq ans. Mais pour Amodei, ce n'est que la partie émergée de l'iceberg. Ce qui l'inquiète, ce n'est pas seulement le marché du travail, mais la résilience existentielle des systèmes humains. Pourrons-nous contrôler une intelligence supérieure à la nôtre ? Nos procédures démocratiques ne vont-elles pas devenir un lest lent et inutile dans un monde où les décisions se prennent en quelques millisecondes ? Amodei ne livre pas de réponses simples, mais son ton ne laisse aucun doute : le temps de la contemplation tranquille est révolu.

Ce manifeste ressemble à une tentative de fixer l'agenda des régulateurs. Amodei sait que si l'industrie n'établit pas les règles du jeu maintenant, les conséquences seront incontrôlables. Il appelle le monde à « se réveiller », en suggérant que nous restons plongés dans une agréable somnolence, à nous émerveiller de voir les réseaux de neurones écrire des poèmes et dessiner des images à notre place. Mais la puissance réelle contre laquelle il met en garde n'a rien d'un divertissement. C'est une question de redistribution du pouvoir à l'échelle mondiale.

L'essentiel : Anthropic s'installe définitivement dans le rôle de « l'adulte dans la pièce », qui n'hésite pas à gâcher la fête avec des histoires qui font peur. Reste à savoir si les autres géants de la Silicon Valley entendront cet appel, ou si la course aux armements de l'IA basculera définitivement dans un piqué incontrôlable.