Dario Amodei : L'IA adolescente va bientôt dévaster notre monde douillet

Dario Amodei semble avoir décidé que les brefs posts sur les réseaux sociaux ne suffisent pas pour nous préparer aux changements à venir. Quand le directeur de l'un des laboratoires d'IA les plus chers et influents du monde publie un texte de la taille d'un court roman, c'est une raison suffisante pour au moins mettre de côté vos affaires et lire attentivement. Le cofondateur d'Anthropic a publié un essai intitulé « L'Adolescence de la Technologie », et ce n'est pas simplement des réflexions de loisir, mais un véritable manifeste d'un homme qui voit le code de l'avenir avant tous les autres.

Amodei n'est pas un novice en matière de sécurité. Il a quitté OpenAI précisément parce qu'il considérait l'approche de Sam Altman trop imprudente en termes de risques. Maintenant, à la tête d'Anthropic, il déclare ouvertement : l'humanité entre dans une phase qui nous testera en tant qu'espèce biologique.

Sa métaphore des « années de l'adolescence » de la technologie décrit parfaitement le chaos actuel. Nous avons déjà donné à l'intelligence artificielle un pouvoir énorme, mais nous ne lui avons pas encore enseigné (et à nous-mêmes) la responsabilité. C'est le moment même où un adolescent peut déjà prendre place à la direction d'une voiture de sport, mais ne réalise pas encore que le mur de béton devant lui n'est pas un accessoire de jeu vidéo.

La question principale que pose Amodei : nos institutions sociales et étatiques sont-elles prêtes pour le « pouvoir presque inimaginable » qui deviendra réalité dans le futur très proche ? Il en parle non pas comme d'une possibilité théorique dans cinquante ans, mais comme d'un événement qui frappe littéralement à la porte. Tandis que le public débat de savoir si les réseaux de neurones remplaceront les rédacteurs ou les concepteurs, Amodei examine les changements fondamentaux en biologie, cybersécurité et gouvernement. Il voit l'IA comme un outil capable à la fois d'accélérer le progrès scientifique de plusieurs siècles et de créer des risques auxquels nous n'avons pas développé d'immunité.

L'ironie de la situation est que c'est Anthropic lui-même qui crée certains des modèles les plus puissants du marché. Claude 3.5 Sonnet a déjà fait que de nombreux développeurs remettent en question le leadership de GPT-4. Un paradoxe étrange émerge : un homme construit la machine la plus rapide du monde et simultanément écrit 19 000 mots sur les raisons pour lesquelles la vitesse peut nous tuer. Ce n'est pas de l'hypocrisie, mais plutôt une tentative de s'asseoir sur deux chaises à la fois—rester un acteur commercialement réussi tout en préservant le statut de « conscience de l'industrie ».

Les sondages britanniques montrent pendant ce temps qu'un quart de la population du pays craint sérieusement de perdre son emploi en raison de l'IA au cours des cinq prochaines années. Mais pour Amodei, ce n'est que la pointe de l'iceberg. Ce qui le préoccupe n'est pas simplement le marché du travail, mais la durabilité existentielle des systèmes humains. Pourrons-nous contrôler une intelligence qui dépasse la nôtre ? Nos procédures démocratiques se transformeront-elles en lest lent et inutile dans un monde où les décisions sont prises en millisecondes ? Amodei ne fournit pas de réponses simples, mais son ton ne laisse aucun doute : le temps de la contemplation tranquille est révolu.

Ce manifeste ressemble à une tentative de fixer l'agenda des régulateurs. Amodei comprend que si l'industrie n'établit pas les règles du jeu maintenant, les conséquences seront incontrôlables. Il appelle le monde à « s'éveiller », suggérant que nous sommes toujours dans un état de demi-sommeil agréable, appréciant la façon dont les réseaux de neurones écrivent des poèmes pour nous et dessinent des images. Mais le vrai pouvoir dont il avertit n'a rien à voir avec le divertissement. C'est une question de redistribution du pouvoir à l'échelle mondiale.

L'essentiel : Anthropic consolide définitivement son rôle en tant que « l'adulte dans la salle » qui n'a pas peur de gâcher la fête avec des histoires effrayantes. La seule question est de savoir si les autres géants de la Silicon Valley écouteront cet appel, ou si la course aux armements de l'IA entrera finalement dans une étape de piqué incontrôlable.