Amodei change de ligne : l'État doit pouvoir bloquer les IA dangereuses

Dario Amodei, PDG d'Anthropic, a fait cette semaine une déclaration inattendue : les gouvernements doivent avoir le droit de restreindre la diffusion de certains modèles d'IA s'ils représentent une menace potentielle pour la sécurité. Cet aveu marque un net changement de position de l'entreprise.

Ce qui a changé dans la position d'Anthropic

Anthropic s'était fait connaître précisément par son refus de coopérer avec les autorités. L'entreprise a rejeté des contrats avec le Pentagone et d'autres organismes publics, invoquant des considérations éthiques et la nécessité de protéger l'intérêt général. Dario Amodei présentait la société comme un rempart de principe face à la machine étatique.

Mais le dirigeant reconnaît aujourd'hui qu'une résistance absolue à toute intervention de l'État est une mauvaise approche. Selon lui, les modèles d'IA réellement dangereux justifient des exceptions à la règle générale de non-ingérence. Il s'agit de trouver un équilibre entre innovation et sécurité.

Quelles IA appellent une restriction étatique

D'après Dario Amodei, sont jugés dangereux et susceptibles d'être restreints les modèles qui :

• Peuvent servir à la synthèse biochimique d'agents pathogènes dangereux ou au développement d'armes
• Présentent des vulnérabilités critiques permettant aux utilisateurs de contourner les garde-fous de sécurité intégrés
• Sont capables de piloter des infrastructures critiques (réseaux électriques, approvisionnement en eau, transports, communications)
• Manifestent des capacités indésirables impossibles à corriger après le déploiement

Dario Amodei a noté qu'en 2026 de tels modèles restent rares, mais que, à mesure que l'IA monte en échelle, le nombre de risques potentiels augmente inévitablement. C'est pourquoi il est important de définir dès maintenant la bonne approche réglementaire.

L'État face aux risques : réguler sans censurer

Reconnaître la nécessité d'un contrôle étatique soulève une question délicate : comment distinguer une régulation légitime de la censure et du contrôle politique ? Dario Amodei propose un mécanisme de compromis : un processus transparent, associant des experts indépendants et des critères publics pour décider quand un modèle peut être bloqué. Cette approche diffère des « listes noires » secrètes, que les critiques qualifient souvent d'outil de répression.

Dans le scénario idéal de Dario Amodei, entreprises et gouvernements travaillent ensemble sur la base de normes de sécurité convenues.

«

Nous ne pouvons pas nous permettre d'ignorer des risques réels simplement parce que nous craignions le contrôle de l'État », déclare Dario Amodei.

Ce que cela signifie pour l'industrie

Ce changement de position du patron d'Anthropic signale la maturité croissante de l'industrie de l'IA. L'époque où les entreprises agissaient comme des acteurs entièrement indépendants touche à sa fin. OpenAI, Google DeepMind et d'autres laboratoires devraient parvenir à des conclusions similaires au cours de 2026.