Le Pentagone qualifie Anthropic de menace pour la sécurité nationale en raison des restrictions éthiques sur l'AI

Le Département de la défense des États-Unis a officiellement inscrit Anthropic sur la liste des risques de la chaîne d'approvisionnement, citant des préoccupations selon lesquelles l'entreprise pourrait désactiver ses technologies pendant les opérations militaires. Cette décision a résulté de la propre politique d'Anthropic — les soi-disant « lignes rouges » qui définissent comment et quand l'entreprise a le droit de restreindre ou d'interrompre ses systèmes d'IA. L'essence du conflit réside dans la nature même du contrôle corporatif sur les technologies critiques.

Anthropic, comme de nombreuses autres entreprises d'IA, a formulé un ensemble de principes éthiques qui limitent l'application de ses modèles dans des contextes dangereux. Parmi ces principes figurent les conditions selon lesquelles l'entreprise se réserve le droit de forcer la désactivation des systèmes. C'est précisément ce qui a alarmé le Pentagone.

Pour les départements militaires, toute dépendance à un fournisseur de technologie capable d'interrompre unilatéralement le service est une vulnérabilité. Dans la sphère de la défense, les systèmes critiques doivent fonctionner en continu indépendamment de la position du fournisseur. Si les outils d'IA sont intégrés dans les chaînes de renseignement, de logistique ou de combat, la possibilité de leur désactivation par le développeur crée un risque analogue à ce que les militaires appellent un point unique de défaillance.

Un porte-parole officiel du Pentagone a confirmé que la présence de « lignes rouges » était le fondement clé de l'attribution du statut de risque à Anthropic. En substance, le département dit ce qui suit : une entreprise ayant des contraintes éthiques permettant un refus de coopérer dans des conditions de combat ne peut pas être considérée comme un partenaire de défense fiable. Anthropic est connue comme l'une des entreprises d'IA les plus principiées en matière de déploiement sécurisé de ses modèles.

Les Principes d'escalade responsable (RSP) la distinguent de nombreux concurrents. L'entreprise a déclaré publiquement qu'elle ne contribuerait pas à la création d'armes de destruction massive et se réserve le droit de refuser les contrats qui contredisent ces principes. Maintenant, ces mêmes principes ont conduit à un affrontement officiel avec un client fédéral.

La situation soulève des doutes sur la possibilité même pour les entreprises d'IA responsables de travailler avec le secteur de la défense sans sacrifier leurs engagements éthiques. Le contexte plus large est important. Les forces armées américaines intègrent activement l'IA dans divers systèmes — de l'analyse des données de renseignement et de la planification logistique au soutien de la prise de décision tactique.

Selon des sources ouvertes, Anthropic a déjà des contrats avec des structures gouvernementales américaines, notamment par le biais d'Amazon Web Services, qui utilise les modèles Claude dans les solutions de cloud gouvernementales. Cela rend la situation particulièrement délicate : l'entreprise est simultanément un fournisseur actif et un risque officiellement reconnu. Le précédent importe pour l'ensemble de l'industrie.

Si le Département de la défense refuse systématiquement les fournisseurs ayant des contraintes éthiques, cela créera une pression sur les entreprises d'IA pour qu'elles abandonnent ces principes afin d'accéder à de grands contrats gouvernementaux. Un scénario alternatif est la formation de deux écosystèmes distincts : les systèmes d'IA militaires sans contraintes éthiques et les systèmes civils avec elles. Pour les investisseurs et partenaires d'Anthropic, c'est un signal que les positions éthiques de l'entreprise ont des coûts monétaires réels et des opportunités de marché.

Pour les régulateurs et la société, c'est une question aiguë : les entreprises d'IA doivent-elles avoir le droit de refuser l'État, et si oui — sous quelles conditions? La tension entre le contrôle éthique du développeur et les exigences de sécurité de l'État ne fait que croître, et l'affaire Anthropic ne sera apparemment pas la dernière.