Des sénateurs américains veulent inscrire dans la loi les « lignes rouges » d’Anthropic sur les armes autonomes

Le conflit entre Anthropic et l'armée américaine a dépassé le cadre judiciaire et est arrivé au Capitole. Le sénateur démocrate Adam Schiff, de Californie, travaille sur un projet de loi qui devrait inscrire les « lignes rouges » de l'entreprise dans la loi fédérale — des principes interdisant l'utilisation de ses systèmes d'IA pour créer des armes autonomes létales et prendre des décisions automatiques sur la vie et la mort sans participation humaine dans la boucle de commande. Les racines du conflit remontent au désaccord d'Anthropic sur les termes d'un contrat militaire.

Lorsque le Département de la défense américain a exigé l'accès aux modèles d'IA de l'entreprise sans réserves sur les scénarios d'utilisation autorisés, Anthropic a refusé. L'entreprise a insisté : ses technologies ne peuvent pas être utilisées pour des décisions létales autonomes — c'est-à-dire des situations où un algorithme détermine indépendamment, sans intervention de l'opérateur humain, les cibles à détruire ou autorise d'autres actions militaires critiques. De l'avis d'Anthropic, il ne s'agit pas d'un caprice d'entreprise mais d'un principe fondamental du développement responsable de l'IA.

La réponse de la Maison Blanche a été dure : l'administration Trump a mis Anthropic sur une liste de fournisseurs représentant une menace pour la chaîne d'approvisionnement, bloquant effectivement la coopération de l'entreprise avec les agences gouvernementales. Anthropic a répondu par une action en justice, accusant le gouvernement de violer les droits constitutionnels de l'entreprise. L'affrontement judiciaire se poursuit.

C'est à ce moment que le Congrès est intervenu. Le sénateur Schiff a annoncé son intention de convertir les restrictions éthiques d'Anthropic de politique d'entreprise en loi fédérale. Sa future législation devrait garantir : aucun algorithme d'IA ne peut prendre indépendamment des décisions sur l'utilisation de la force — le dernier mot revient toujours aux humains.

Le principe du « maintien de l'humain dans la boucle » (human-in-the-loop) est depuis longtemps une recommandation de l'industrie, mais il n'est inscrit nulle part dans la législation américaine — et le projet de loi de Schiff devrait corriger cette omission. Parallèlement, la sénatrice Elissa Slotkin, du Michigan, a présenté une législation distincte limitant la capacité du Département de la défense à utiliser l'intelligence artificielle pour la surveillance de masse des citoyens américains. C'est le deuxième front du même problème : jusqu'où les militaires peuvent-ils aller dans l'application d'outils d'IA lorsque l'objet de surveillance ne sont pas des adversaires étrangers mais les propres citoyens du pays ?

Les deux projets de loi n'ont pas émergé du vide. Ils reflètent les préoccupations croissantes des législateurs concernant le rythme d'intégration de l'IA dans la sphère militaire. Dans un contexte où le Pentagone conclut activement des contrats avec des entreprises d'IA — de Palantir à Scale AI — la question des limites acceptables devient de plus en plus aiguë.

Il est caractéristique que l'initiative vienne précisément des démocrates : dans la configuration politique actuelle, cela signifie que les projets de loi feront face à une forte résistance de la majorité républicaine, qui soutient généralement l'expansion des programmes militaires d'IA. Pour Anthropic, la situation est ambiguë. La codification législative de ses principes serait une victoire et une légitimation de toute l'approche de l'entreprise en matière de sécurité de l'IA.

Cependant, figurer sur une « liste noire » menace réellement les contrats gouvernementaux et les perspectives commerciales dans le secteur de la défense. Ce qui se passe est un signal clair : l'industrie a atteint un point où les codes d'éthique corporatifs volontaires sont insuffisants. Quand le principal développeur de modèles d'IA poursuit le Pentagone en justice et que les sénateurs se hâtent d'écrire des lois, la société a besoin de règles claires — sur l'IA et la guerre, sur les machines et le droit à la vie.