Anthropic réfute les accusations du Pentagone sur un possible sabotage d'outils d'IA en temps de guerre

Anthropic assure ne pas pouvoir interférer avec le fonctionnement de ses outils d'IA en plein conflit militaire. Cette déclaration répond aux objections du département de la Défense américain, qui a avancé que le concepteur de Claude pourrait, en théorie, manipuler le comportement de ses modèles même après leur déploiement en conditions de combat. Les dirigeants de l'entreprise martèlent que c'est techniquement impossible.

Le différend est devenu public alors que l'armée américaine s'intéresse de plus en plus aux systèmes d'IA commerciaux. Ces deux dernières années, le Pentagone teste activement de grands modèles de langage pour la logistique, l'analyse du renseignement et la planification d'opérations. Anthropic fait partie des fournisseurs avec lesquels le département de la Défense négocie ou collabore déjà sur plusieurs programmes.

La crainte du Pentagone porte sur un vecteur de vulnérabilité potentiel : si le concepteur conserve la capacité de modifier ou de désactiver le modèle à distance, cela crée un risque de dépendance envers une entreprise privée dans des situations critiques. Les armées du monde entier cherchent traditionnellement à garder la souveraineté sur leurs systèmes, surtout lors de combats actifs, quand la fiabilité de l'infrastructure devient une question de vie ou de mort.

Anthropic rétorque que l'architecture de déploiement de Claude ne lui permet pas d'intervenir sur des instances déjà lancées à l'insu du client. Ses dirigeants soulignent qu'un modèle déployé dans l'environnement isolé d'une administration militaire fonctionne indépendamment des serveurs d'Anthropic. Ils jugent un « arrêt à distance » ou une modification dissimulée du comportement techniquement intenable si l'implémentation est correcte.

La question reste pourtant débattue. Les experts en cybersécurité rappellent depuis longtemps que les modèles d'IA commerciaux sont mis à jour par des mécanismes de fine-tuning et de RLHF, qui peuvent, dans certaines conditions, modifier le comportement du système à l'insu de l'utilisateur final. Les clients militaires, contrairement aux entreprises, exigent la garantie que le modèle ne changera pas pendant toute la durée du contrat, une exigence que les fournisseurs commerciaux ne savent pas encore satisfaire avec des outils standard.

Cette situation illustre une contradiction plus large : les gouvernements veulent utiliser les systèmes d'IA commerciaux les plus avancés, mais refusent de dépendre de leurs créateurs. Les modèles open source, comme Llama, Mistral et d'autres, paraissent plus séduisants dans ce contexte, car ils peuvent être déployés en local et figés à une version donnée. Mais ils restent en retrait face aux équivalents propriétaires sur les tâches qui exigent un raisonnement complexe.

Pour Anthropic, le conflit avec le Pentagone est un fardeau en termes de réputation, au moment où l'entreprise se positionne activement comme un concepteur d'IA responsable. Tout doute sur la fiabilité et la prévisibilité de Claude peut ralentir les négociations avec les clients publics, un segment qui pourrait devenir dans les prochaines années l'un des plus grands débouchés pour les grands modèles de langage.