Anthropic attaque le Pentagone en justice pour sanctions

Anthropic, l'une des principales développeuses mondiales de systèmes d'intelligence artificielle et créatrice du modèle de langage Claude, a franchi une étape sans précédent en déposant deux poursuites contre le Département de la défense des États-Unis. Le déclencheur a été la décision du Pentagone de désigner l'entreprise comme un « risque pour la chaîne d'approvisionnement » — un outil qui n'avait jamais auparavant été appliqué à une entreprise américaine et qui oblige effectivement tous les contractants gouvernementaux à rompre toute relation commerciale avec Anthropic. L'entreprise considère cette décision illégale et affirme qu'elle viole ses droits garantis par le Premier Amendement de la Constitution américaine.

Les poursuites ont été déposées simultanément auprès du tribunal fédéral du district nord de Californie et auprès de la Cour d'appel du district de Columbia, ce qui démontre le sérieux de l'intention de l'entreprise de défendre sa position sur tous les fronts juridiques disponibles.

Les racines du conflit remontent à un affrontement de plusieurs mois entre Anthropic et le ministère militaire, qui s'est cristallisé autour d'une question fondamentale : les développeurs d'intelligence artificielle devraient-ils avoir le droit d'imposer des restrictions sur l'utilisation militaire de leurs technologies ? Anthropic a tenté systématiquement de mettre en place des mécanismes de protection qui empêcheraient l'utilisation de ses modèles pour la surveillance de masse des citoyens à l'intérieur du pays, ainsi que pour la création de systèmes d'armes autonomes létales. Cette position, qui s'inscrit entièrement dans le cadre de l'éthique d'entreprise et des principes largement débattus du développement responsable de l'IA, s'est heurtée à une vive résistance du Pentagone, qui a considéré ces restrictions comme une ingérence inacceptable dans les intérêts de la sécurité nationale.

La décision de désigner l'entreprise avec le statut de « risque pour la chaîne d'approvisionnement » a été formellement prise jeudi dernier et constitue effectivement une forme de liste noire. Ce mécanisme a été créé pour protéger les marchés publics des fournisseurs non fiables, mais jusqu'à présent n'a été appliqué qu'à des entreprises étrangères, généralement liées à des États rivaux. L'utiliser contre une firme américaine, et non pour des défauts techniques ou des violations de sécurité, mais essentiellement pour avoir tenté de respecter des normes éthiques, établit un précédent troublant.

Anthropic fait justement remarquer que de telles actions ont un caractère punitif et constituent un châtiment de l'entreprise pour l'exercice de son droit constitutionnel à la liberté d'expression et l'expression de sa position sur l'utilisation de la technologie.

Les conséquences de cette confrontation vont bien au-delà du destin d'une seule entreprise. Si la décision du Pentagone tient devant les tribunaux, tout développeur d'IA souhaitant imposer des restrictions éthiques sur l'application de ses produits risque de se retrouver dans une situation similaire. Cela pourrait conduire à une division de l'industrie de l'intelligence artificielle en deux camps : les entreprises prêtes à servir inconditionnellement les besoins militaires sans aucune condition, et celles forcées de se retirer complètement du travail avec le secteur gouvernemental, perdant une part importante des revenus potentiels.

Pour Anthropic, dont le modèle commercial dépend substantiellement des clients corporatifs et gouvernementaux, l'obligation de rompre tous les liens avec les contractants gouvernementaux représente une menace économique sérieuse. En essence, le Pentagone utilise la pression du marché comme un levier de coercition, forçant l'entreprise à choisir entre les principes et la survie commerciale.

Ce conflit expose une contradiction fondamentale qui était destinée à émerger alors que l'intelligence artificielle devient une technologie stratégique. D'une part, les gouvernements occidentaux ont passé des décennies à promouvoir l'idée de responsabilité sociale des entreprises et à exhorter les entreprises technologiques à considérer les conséquences de leurs développements. D'autre part, lorsque cette responsabilité entre en conflit avec les intérêts militaires de l'État, il s'avère que l'espace de manœuvre éthique est beaucoup plus étroit que prévu.

La position d'Anthropic dans ce différend fait écho à une discussion de longue date au sein de la Silicon Valley qui a commencé avec le Projet Maven de Google en 2018, lorsque des milliers d'employés ont protesté contre la collaboration de l'entreprise avec le Pentagone sur l'analyse des vidéos de drones.

L'issue du procès est capable de déterminer les règles du jeu pour l'ensemble de l'industrie pour les années à venir. Si le tribunal tranche en faveur d'Anthropic, cela consacrera le droit des entreprises technologiques à fixer des conditions sur l'utilisation de leurs produits même lorsqu'elles travaillent avec le gouvernement et confirmera que les restrictions éthiques sont protégées par la Constitution. Si le Pentagone l'emporte, ce sera un signal que dans une ère de concurrence géopolitique pour la suprématie technologique, l'État est prêt à appliquer une pression extraordinaire sur les entreprises qui refusent de subordonner inconditionnellement leur développement aux objectifs militaires.

En tout cas, l'affaire Anthropic contre le ministère de la Défense est déjà entrée dans l'histoire comme le premier grand conflit juridique dans lequel la question de l'éthique de l'intelligence artificielle s'est déplacée du plan théorique à la salle d'audience.