Anthropic dépose une candidature pour un concours du Pentagone sur le contrôle d’essaims de drones

L'entreprise qui a construit sa réputation sur les principes d'une intelligence artificielle sûre et responsable a discrètement soumis une candidature pour l'un des projets militaires les plus ambitieux du Pentagone ces dernières années. Selon Bloomberg, Anthropic — créatrice du modèle de langage Claude — figure parmi les candidats à la compétition d'un prix de 100 millions de dollars du Pentagone. L'objectif du projet est de développer une technologie de contrôle vocal pour les essaims de drones autonomes.

L'idée même de la compétition semble sortie d'un scénario de film de science-fiction : un opérateur donne une commande vocale, et des dizaines ou des centaines d'aéronefs sans pilote coordonnent leurs actions sans contrôle direct de chaque appareil. C'est un niveau fondamentalement nouveau d'autonomie, où un modèle de langage doit non seulement comprendre une commande, mais aussi la traduire en un travail coordonné et complexe de multiples aéronefs en temps réel. Le Pentagone voit clairement les grands modèles de langage comme la clé d'une interface intuitive entre les humains et les systèmes de combat du futur.

Pour Anthropic, cette démarche semble pour le moins ambiguë. L'entreprise a été fondée en 2021 par d'anciens employés d'OpenAI, dont Dario et Daniela Amodei, qui sont partis précisément en raison de désaccords sur les questions de sécurité. Depuis, Anthropic s'est constamment positionnée comme l'acteur le plus responsable de l'industrie : publiant des recherches sur l'alignement de l'IA, mettant en œuvre une approche constitutionnelle pour l'entraînement des modèles, discutant ouvertement des risques. Les contrats militaires s'intégraient mal dans ce tableau, et l'entreprise s'était tenue à l'écart du secteur de la défense pendant longtemps.

Cependant, le contexte dans lequel la candidature a été soumise rend la situation encore plus intrigante. Bloomberg indique que cela s'est produit dans le contexte d'une « hostilité » entre Anthropic et le Pentagone — apparemment des désaccords liés aux conditions d'utilisation des technologies de l'entreprise et aux limites des applications militaires autorisées. Soumettre une candidature à la compétition au cœur d'un tel conflit pourrait signifier plusieurs choses : soit Anthropic tente de rétablir les relations avec le Département de la défense, soit un changement stratégique s'est produit au sein de l'entreprise, soit la pression financière s'est avérée plus forte que les engagements idéologiques.

La dernière option ne peut être exclue. La course dans l'IA nécessite des investissements colossaux en puissance de calcul, recherche et talents. Anthropic a attiré des milliards de dollars d'investissements, notamment d'Amazon et Google, mais la concurrence avec OpenAI, Google DeepMind et autres géants s'intensifie. Les contrats de défense ne sont pas que de l'argent ; c'est une source stable, à long terme et généreuse de financement. À titre de comparaison, le budget total du Pentagone pour les projets d'IA se chiffre en milliards de dollars par an, et 100 millions de dollars pour une seule compétition ne sont que la partie émergée de l'iceberg.

Il est important de comprendre le contexte plus large également. L'industrie de l'IA dans son ensemble se déplace rapidement vers le secteur de la défense. OpenAI, qui avait autrefois interdit l'utilisation militaire de ses modèles, a levé cette interdiction en 2024.

Palantir, Anduril, Shield AI et des dizaines d'autres entreprises travaillent activement avec le Pentagone. Même dans la Silicon Valley, où le sentiment anti-guerre est traditionnellement fort, le pragmatisme l'emporte : si vous ne travaillez pas avec les militaires, quelqu'un d'autre le fera — possiblement avec une approche moins responsable de la sécurité. Cet argument est probablement aussi entendu au sein d'Anthropic : mieux nous, avec nos principes d'alignement et notre IA constitutionnelle, qu'une entreprise qui ne se soucie pas d'éthique du tout.

Néanmoins, c'est un test sérieux pour la réputation d'Anthropic. L'entreprise a passé des années à construire une marque sur l'idée que la sécurité est plus importante que le profit, qu'il existe des lignes rouges qui ne peuvent pas être franchies. La participation à une compétition pour créer des systèmes de combat autonomes — même au stade de la candidature — soulèvera inévitablement des questions parmi certains employés, investisseurs et la communauté de la sécurité de l'IA. Où est la limite entre les applications défensives et offensives ? Qui contrôle exactement comment les essaims autonomes de drones seront utilisés ? Une commande vocale d'une seule personne suffit-elle pour des décisions qui pourraient coûter des vies ?

L'histoire de la candidature d'Anthropic à la compétition du Pentagone n'est pas qu'une nouvelle d'entreprise. C'est un marqueur d'un changement fondamental dans l'ensemble de l'industrie de l'intelligence artificielle. L'époque où les principaux laboratoires d'IA pouvaient se permettre le luxe de se tenir à distance du militaire touche à sa fin. La question maintenant n'est pas si les technologies d'IA seront utilisées dans la défense, mais sous quelles conditions et avec quelles restrictions. Et la réponse à cette question déterminera en grande partie quel monde sera celui dans lequel les systèmes autonomes deviendront la norme plutôt que l'exception.