OpenAI réécrit en urgence son contrat avec le Pentagone après l'aveu de "négligence" d'Altman

Sam Altman reconnaît rarement ses erreurs publiquement. Mais lundi soir, le PDG d'OpenAI a essentiellement admis que l'un des plus grands contrats de son entreprise a été mené, pour le dire poliment, de manière négligente. Le contrat pour fournir des technologies d'intelligence artificielle au Département de la Défense américain—maintenant officiellement appelé Département de la Guerre—sera révisé, avec des restrictions explicites ajoutées sur l'utilisation de l'IA pour la surveillance de masse et les opérations des agences de renseignement.

L'histoire a commencé quand OpenAI a signé précipitamment un accord avec le département militaire, dont les détails ont fuité dans la presse avant que l'entreprise puisse préparer une explication publique cohérente. La réaction a été prévisiblement sévère : les défenseurs des droits de l'homme, les experts en sécurité numérique et une partie de la communauté technologique ont exprimé de sérieuses préoccupations quant au fait que les technologies ChatGPT pourraient être intégrées dans des systèmes de surveillance interne des citoyens. Une alarme particulière a été déclenchée par le lien potentiel avec l'Agence de sécurité nationale (NSA)—une organisation dont la réputation est restée toxique pour toute entreprise technologique qui valorise la confiance des utilisateurs depuis les révélations d'Edward Snowden.

Dans sa déclaration de lundi, Altman a utilisé un langage peu caractéristique d'un PDG d'une entreprise évaluée à des centaines de milliards de dollars. Il a appelé l'accord « opportuniste et négligent »—des mots qui dans le monde corporatif sont généralement prononcés non pas sur ses propres décisions, mais sur les erreurs des concurrents. Cet aveu, cependant, semble moins un repentir sincère qu'un mouvement calculé pour gérer une crise de réputation. OpenAI s'est trouvée dans une situation où le silence aurait coûté plus cher que l'autocritique publique.

Le contrat révisé, selon Altman, contiendra une interdiction explicite de deux scénarios clés : l'utilisation des technologies d'OpenAI pour la surveillance de masse de la population à l'intérieur du pays, et leur transfert aux divisions de renseignement du Département de la Défense, y compris la NSA. Formellement, cela semble être une restriction sérieuse. En pratique—il reste plus de questions que de réponses. Qui supervisera le respect de ces conditions ? Comment exactement la « surveillance de masse » est-elle définie en termes juridiques ? Et qu'est-ce qui empêche le département militaire d'utiliser les développements obtenus d'OpenAI dans des projets connexes qui ne tombent formellement pas sous les restrictions ?

Le contexte de cette histoire est bien plus large qu'un simple contrat. OpenAI a connu une évolution remarquable d'un laboratoire à but non lucratif créé pour « l'IA sûre pour le bénéfice de l'humanité » à un géant commercial qui recherche activement des contrats gouvernementaux. Encore en 2023, l'entreprise refusait catégoriquement de travailler avec les militaires.

En 2024, la politique a été silencieusement révisée—d'abord en permettant la collaboration dans le domaine de la cybersécurité, puis les limites sont devenues de plus en plus floues. Le contrat avec le Département de la Guerre est devenu une culmination logique, bien que douloureuse, de cette dérive. Chaque étape a été accompagnée d'affirmations concernant les objectifs « protecteurs » et « défensifs », mais la direction du mouvement était évidente.

Pour l'industrie dans son ensemble, la situation d'OpenAI établit un précédent important. Tous les principaux développeurs d'IA—de Google DeepMind à Anthropic—tôt ou tard seront confrontés à un choix similaire. Les contrats gouvernementaux apportent des revenus stables et un parrainage politique, mais mettent simultanément en péril la réputation auprès des utilisateurs et des développeurs pour qui la confidentialité des données est une valeur fondamentale. Microsoft, le plus grand investisseur d'OpenAI, travaille depuis longtemps avec le Pentagone par le biais de ses services cloud et du projet JEDI, mais Microsoft n'a pas de produit grand public avec deux cents millions d'utilisateurs qui confient quotidiennement à ce service leurs pensées, requêtes et données.

Le simple fait de renommer le Département de la Défense en Département de la Guerre mérite une attention particulière—une décision de l'administration qui rend à l'agence son nom historique, qui a existé jusqu'en 1947. Pour OpenAI, cela crée un problème optique supplémentaire : c'est une chose de coopérer avec le « Département de la Défense », et tout à fait autre chose de travailler avec le « Département de la Guerre ». La sémantique dans ce cas joue contre l'entreprise, renforçant la sensation que les technologies créées pour aider les gens pourraient être utilisées contre eux.

Altman a promis la transparence et les restrictions. Mais la confiance est une ressource qui s'épuise plus vite qu'elle ne s'accumule. OpenAI doit prouver que les promesses d'interdire la surveillance de masse ne sont pas simplement des lignes dans un communiqué de presse, mais un mécanisme de contrôle genuinely fonctionnant. Sinon, l'entreprise risque de découvrir qu'elle a perdu quelque chose de plus précieux que tout contrat gouvernemental—la conviction qu'elle se tient toujours du côté des gens, et non des systèmes qui les surveillent.