Anthropic contre la machine de guerre : des principes au prix d’un contrat d’un milliard de dollars

Dans le monde des grands modèles de langage, il est courant de parler de la sécurité de l'IA comme une priorité. Mais quand des contrats militaires de plusieurs milliards de dollars sont en jeu, les belles déclarations font face à une épreuve de réalité. Anthropic — une entreprise qui a construit sa réputation sur une approche responsable de l'intelligence artificielle — s'est retrouvée dans une situation où ses principes pourraient lui coûter une somme très précise d'argent.

Selon Wired, Anthropic insiste fermement sur deux limitations pour l'utilisation de son modèle Claude : aucune application dans les systèmes d'armes autonomes et aucune intégration dans les outils de surveillance gouvernementale. Ces « lignes rouges » ne sont pas simplement des termes dans un accord utilisateur. Elles sont intégrées dans l'architecture même des relations de l'entreprise avec les clients gouvernementaux potentiels. Et selon la publication, c'est précisément celles-ci qui pourraient coûter à Anthropic un contrat majeur avec un département militaire américain.

Pour comprendre l'ampleur de ce qui se passe, il faut regarder le contexte. Au cours des deux dernières années, le Pentagone et autres structures de défense américaines ont considérablement accru leur intérêt pour l'IA générative. Le ministère de la Défense a lancé une série de programmes pour intégrer les grands modèles de langage dans la logistique, l'analyse de renseignement, la planification opérationnelle et — particulièrement sensible — dans les systèmes de prise de décision sur le champ de bataille.

OpenAI, qui encore en 2023 déclarait refuser de travailler avec l'armée, en 2025 a discrètement reconsidéré sa position et a commencé à travailler avec des entrepreneurs en défense. Google, par sa division Google Public Sector, promeut activement Gemini à des fins gouvernementales. Microsoft, partenaire stratégique d'OpenAI, est depuis longtemps profondément intégrée dans l'infrastructure de défense grâce aux contrats Azure Government.

Dans ce contexte, Anthropic reste peut-être le seul grand acteur qui trace publiquement une ligne claire entre les applications militaires admissibles et inadmissibles.

L'approche principielle d'Anthropic a ses racines dans l'ADN même de l'entreprise. Ses fondateurs — Dario et Daniela Amodei — ont quitté OpenAI précisément parce qu'ils considéraient l'approche de la sécurité comme insuffisamment sérieuse. Anthropic se positionne comme une entreprise « safety-first », et ses recherches en IA constitutionnelle, interprétabilité des modèles et mécanismes d'alignement sont vraiment à la pointe de l'industrie. Mais une chose est de publier des articles scientifiques sur la sécurité, et une tout autre de refuser des contrats qui pourraient valoir des centaines de millions de dollars. Particulièrement quand vous êtes une entreprise privée brûlant des sommes colossales en entraînement de modèles et ayant besoin de sources stables de revenus.

Techniquement, l'interdiction des armes autonomes et de la surveillance semble simple, mais en pratique, la ligne est floue au-delà de toute reconnaissance. Qu'est-ce qui compte comme armes autonomes — un drone qui sélectionne indépendamment une cible, ou un système qui analyse des images satellite et propose une liste de cibles prioritaires à un opérateur ? Où s'arrête « l'analyse de renseignement » et où commence « la surveillance gouvernementale » ?

Les clients militaires veulent généralement les licences les plus larges possible et des restrictions minimales. Une entreprise qui arrive avec une longue liste de réserves perd automatiquement face à un concurrent disposé à être plus flexible. C'est apparemment exactement ce qui se passe : le Pentagone envisage des fournisseurs alternatifs qui ne sont pas entravés par ces cadres éthiques.

Cette situation expose une fissure fondamentale dans l'industrie de l'IA. Pendant plusieurs années, les grands laboratoires se sont empressés de signer des engagements volontaires en matière de sécurité, de publier des manifestes et de créer des comités d'éthique internes. Mais les restrictions volontaires ne fonctionnent que jusqu'à ce qu'elles commencent à coûter de l'argent réel.

OpenAI a déjà montré à quelle vitesse on peut changer de cap : moins de deux ans se sont écoulés entre un « nous ne travaillons pas avec l'armée » catégorique et un partenariat avec les structures de défense. Si Anthropic perd un contrat majeur en raison de ses principes, cela enverra un signal puissant à tout le marché — et ce signal sera à double tranchant. D'un côté, il montrera que les restrictions éthiques ont un prix réel.

De l'autre, il démontrera que le marché punit les positions principielles.

Pour Anthropic, les enjeux vont bien au-delà d'un seul contrat. L'entreprise a levé des milliards de dollars en investissements, notamment d'Amazon et Google, et sa valorisation approche la barre des 60 milliards de dollars. Les investisseurs s'attendent à une croissance des revenus, et le secteur public est l'un des canaux de monétisation les plus prometteurs et stables pour les entreprises d'IA. Si Anthropic perd systématiquement des contrats gouvernementaux en raison de restrictions éthiques, la pression des actionnaires s'intensifiera inévitablement. L'histoire de l'industrie technologique compte de nombreux exemples où les principes nobles ont cédé place au pragmatisme à mesure que les entreprises ont grandi et pris des engagements financiers plus importants.

Et pourtant, la décision d'Anthropic mérite l'attention non seulement comme un cas commercial. Elle pose à toute l'industrie une question qui devra être résolue tôt ou tard au niveau réglementaire : devrait-il y avoir des restrictions obligatoires plutôt que volontaires sur les applications militaires de l'IA générative ? Tant que cette question reste sans réponse, le destin des normes éthiques en IA dépendra de la volonté des entreprises individuelles à payer pour leurs convictions. Anthropic paie pour l'instant. La question est de savoir combien de temps elle pourra se le permettre.