Le Pentagone a testé des modèles d'OpenAI via Microsoft, contournant l'interdiction d'usage militaire

Lorsque OpenAI a clairement interdit dans ses premiers documents de politique d'utilisation l'application militaire de ses modèles, cela semblait être une position de principe d'une des plus influentes entreprises d'IA du monde. Il s'avère maintenant que le Pentagone a trouvé un moyen élégant de contourner cela bien avant que l'entreprise ne révise officiellement ses règles.

Selon les informations de sources consultées par le magazine Wired, le Département de la Défense des États-Unis menait des expériences avec les technologies d'OpenAI, obtenant l'accès non pas directement, mais via la plateforme cloud Azure de Microsoft. Le schéma était simple et en même temps formellement irréprochable : Microsoft, qui a investi des milliards de dollars dans OpenAI, a les droits de licence pour utiliser les modèles de l'entreprise dans ses propres produits et services. Azure fournit aux clients corporatifs et gouvernementaux l'accès à ces modèles dans son écosystème cloud.

Le Pentagone est depuis longtemps un client majeur de Microsoft. Tous les maillons de la chaîne sont en place, et aucun d'entre eux ne viole formellement la lettre de l'interdiction d'OpenAI, qui s'appliquait à l'utilisation directe de ses services à des fins militaires.

Le contexte de cette histoire s'enracine dans une contradiction fondamentale intégrée au propre modèle économique d'OpenAI. L'entreprise, fondée en 2015 en tant que laboratoire de recherche à but non lucratif avec la mission d'assurer un développement sûr de l'intelligence artificielle pour l'humanité, s'est progressivement transformée en un géant commercial. Le partenariat avec Microsoft, commençant par un investissement d'un milliard de dollars en 2019 et évoluant vers une alliance stratégique de plusieurs milliards de dollars, est devenu le moteur de cette transformation. Mais il a aussi créé une faille structurelle : en transférant les licences de ses modèles à Microsoft, OpenAI a effectivement perdu le contrôle total sur qui et comment ces modèles seraient fournis par la suite.

Techniquement, le Pentagone pourrait utiliser les modèles d'OpenAI via Azure pour un large éventail de tâches — du traitement des données de renseignement et de l'analyse de documents à la planification des opérations logistiques et la modélisation de scénarios. Le département militaire américain montre depuis longtemps de l'intérêt pour les grands modèles de langage comme outil pour améliorer l'efficacité des structures de commandement. Et bien que la nature exacte des expériences ne soit pas révélée, le simple fait de leur réalisation contournant la politique publique d'OpenAI en dit long.

En janvier 2024, OpenAI a silencieusement modifié sa politique d'utilisation acceptable, supprimant l'interdiction explicite des applications militaires et de défense. L'entreprise a expliqué cette décision comme le besoin d'une approche plus nuancée, soulignant que l'interdiction d'utilisation pour causer du tort aux personnes reste en vigueur. Les critiques, cependant, ont vu dans ceci la légalisation d'une pratique déjà existante — une sorte de reconnaissance d'une réalité dans laquelle les contraintes éthiques se sont avérées plus faibles que les intérêts commerciaux et la pression gouvernementale.

Cette histoire expose un problème systémique qui va bien au-delà d'une seule entreprise. L'industrie moderne de l'IA est construite sur des relations complexes de partenariat et de licences, où les technologies d'un développeur sont intégrées aux produits et plateformes de dizaines d'autres entreprises. Dans un tel écosystème, les politiques éthiques d'un développeur individuel deviennent des déclarations d'intention plutôt que des contraintes réelles.

Si un modèle est accessible via l'API d'un partenaire, une interdiction sur certains types d'utilisation devient une question de confiance, non de contrôle technique. Microsoft, de son côté, a une longue histoire de coopération avec le Pentagone et n'a jamais partagé la rhétorique pacifiste de la OpenAI initiale — le contrat JEDI et son successeur JWCC pour des dizaines de milliards de dollars en témoignent.

Pour l'ensemble de l'industrie de l'intelligence artificielle, la leçon est transparente et décourageante. Les cadres éthiques non soutenus par des mécanismes de contrôle techniques et des accords juridiquement contraignants avec les partenaires restent de bonnes intentions. Tant que les entreprises d'IA construisent leurs écosystèmes par le biais de licences et de plateformes cloud, le contrôle réel sur l'utilisation finale des technologies sera inévitablement affaibli. Et la question de savoir si les systèmes d'IA les plus puissants du monde doivent servir les départements militaires sort finalement du domaine de l'éthique d'entreprise pour entrer dans le domaine de la géopolitique, où les réponses sont déterminées non par les missions des startups, mais par la logique de la concurrence entre grandes puissances.