Pentagone contre Anthropic : qui fixera les règles de l'AI militaire ?

Pentagone contre Anthropic : Qui établira les règles pour l'IA militaire ?

Un conflit tendu entre le Département de la Défense américain et la startup Anthropic a atteint un point critique, soulevant une question aiguë mais cruciale : qui devrait établir le cadre pour l'utilisation de l'intelligence artificielle à des fins militaires—le pouvoir exécutif, les entreprises privées, ou le Congrès et un processus démocratique plus large ? La situation entourant le refus d'Anthropic de fournir au Pentagone un accès illimité à ses systèmes d'IA, y compris la capacité de les utiliser pour la surveillance intérieure et le guidage autonome des armes, a révélé des désaccords profonds sur les approches pour réglementer cette technologie prometteuse.

Le conflit a éclaté lorsque le Secrétaire à la Défense Pete Hegseth aurait donné un ultimatum au PDG d'Anthropic, Dario Amodei : soit la société supprime les restrictions sur l'utilisation de ses systèmes d'IA par le Département de la Défense, soit elle fait face aux conséquences. Anthropic a refusé de franchir deux lignes fondamentales : permettre à ses modèles d'être utilisés pour la surveillance intérieure des citoyens américains et pour le guidage militaire totalement autonome. Hegseth, à son tour, a exprimé son désaccord avec ce qu'il a appelé des « restrictions idéologiques » intégrées aux systèmes d'IA commerciaux, arguant que la détermination des applications militaires légitimes devrait être la responsabilité du gouvernement, et non du fournisseur.

« Nous n'utiliserons pas de modèles d'IA qui ne vous permettront pas de faire la guerre », a-t-il déclaré lors d'une conférence récente.

Au cœur, ce différend peut être considéré comme un désaccord sur les achats. Dans une économie de marché, le commandement militaire américain détermine quels produits et services il souhaite acheter, et les entreprises décident ce qu'elles sont prêtes à vendre et à quelles conditions. Aucun des deux côtés ne peut être dit être dans l'erreur lorsqu'il prend sa position.

Si un produit ne répond pas aux besoins opérationnels, le gouvernement peut se tourner vers un autre fournisseur. Si une entreprise estime que certains usages de sa technologie sont dangereux, prématurés ou incompatibles avec ses valeurs ou son niveau de risque acceptable, elle peut refuser de les fournir. Par exemple, une coalition d'entreprises a signé une lettre ouverte s'engageant à ne pas utiliser les robots polyvalents à des fins militaires.

Une telle symétrie fondamentale est une caractéristique inhérente d'un marché libre.

La situation devient plus complexe et préoccupante lorsqu'il s'agit de désigner Anthropic comme un « risque de la chaîne d'approvisionnement ». Cet outil est destiné à aborder les menaces réelles pour la sécurité nationale, telles que les actions d'adversaires étrangers. Il ne devrait pas être utilisé pour mettre en liste noire une entreprise américaine pour avoir refusé d'accepter les conditions de contrat préférées proposées par le gouvernement.

Utiliser ce pouvoir de cette manière représente un changement significatif—d'un désaccord sur les achats à l'application d'un levier coercitif. Hegseth a annoncé qu'« immédiatement, aucun entrepreneur, fournisseur ou partenaire menant des affaires avec le Département de la Défense des États-Unis ne peut mener aucune activité commerciale avec Anthropic ». Ces mesures feront presque certainement face à des contestations juridiques, mais elles élèvent les enjeux bien au-delà de la perte d'un seul contrat avec le Pentagone.

Il est également important de faire la distinction entre deux questions importantes soulevées par Anthropic. La première—s'opposer à la surveillance intérieure des citoyens américains—touche des droits et libertés bien établis. La seconde—refuser le guidage autonome des armes—implique des considérations éthiques et pratiques plus complexes concernant la responsabilité des actions militaires et le risque d'escalade involontaire. Ces deux questions exigent une discussion publique approfondie et une réglementation législative, et non des décisions dans les coulisses entre les responsables de la défense et les entreprises technologiques.

Ce conflit souligne le besoin aigu d'établir un cadre législatif clair et une surveillance démocratique du développement et de l'application de l'intelligence artificielle militaire. Plutôt que de compter sur les ultimatums et les mécanismes cachés comme la désignation d'un « risque de la chaîne d'approvisionnement », le Congrès devrait prendre l'initiative de développer des règles transparentes. Ces règles doivent garantir que l'avancement des technologies de pointe dans la sphère militaire ne se fasse pas aux dépens des libertés civiles et des principes éthiques.

L'équilibre entre la nécessité de maintenir la capacité de défense et la protection des droits fondamentaux des citoyens est d'une importance critique, et l'atteindre nécessite un dialogue ouvert et une surveillance législative responsable, et non des décisions unilatérales du pouvoir exécutif ou des géants technologiques.