OpenAI et Anthropic demandent que l'État puisse interdire les modèles d'IA dangereux

OpenAI et Anthropic ont adressé une lettre ouverte au Bureau de la politique scientifique et technologique de la Maison-Blanche. La démarche est inhabituelle : deux des plus grandes entreprises d'IA demandent elles-mêmes à l'État de les contrôler et de les réguler plus strictement.

Ce que dit la lettre et ce qu'elle réclame

Les entreprises demandent des restrictions étatiques sur le développement et le déploiement des modèles d'IA qui présentent certains risques. Concrètement, OpenAI et Anthropic veulent que le gouvernement américain dispose du droit et d'un mécanisme pour interdire aux développeurs de déployer de nouveaux modèles s'ils menacent la sécurité ou les intérêts nationaux.

Ce n'est pas une demande de régulation souple ni de code d'autorégulation du secteur. Les entreprises réclament de véritables interdictions : que l'État puisse dire « non, vous ne pouvez pas publier ce modèle ». Cela ressemble à la façon dont on contrôle le nucléaire, l'aviation, les médicaments ou les additifs alimentaires : avant toute production de masse, une vérification et une approbation sont nécessaires. Cette approche garantit que des systèmes puissants ne tombent pas entre les mains de ceux qui pourraient s'en servir pour nuire.

Pourquoi elles le proposent

Dario Amodei, directeur général d'Anthropic, a souligné qu'un contrôle étatique insuffisant et une vérification défaillante des clients peuvent entraîner de graves menaces pour la société. L'entreprise voit le problème dans le fait qu'aujourd'hui, n'importe qui peut accéder à un modèle puissant sans contrôle suffisant de l'usage prévu, des objectifs poursuivis et de l'identité exacte de ceux qui utiliseront le système.

Il ne s'agit pas seulement de cas marginaux ou de scénarios théoriques. OpenAI et Anthropic observent un écosystème de start-up et d'entreprises qui croissent vite et se disputent financements et parts de marché. Sans restrictions étatiques, cette concurrence peut pousser quelqu'un à publier un modèle dangereux sans vérifications, simplement pour arriver plus vite sur le marché et attirer des investisseurs. La précipitation est l'ennemie de la sécurité.

Les principaux risques qui préoccupent les deux entreprises :

• Utilisation de modèles pour produire de la désinformation, de la manipulation et des faux à l'échelle de la société
• Déploiement sans vérification des objectifs, de l'honnêteté et des intentions réelles du client
• Absence de mécanisme de sanctions, d'interdictions et de responsabilité en cas de violations et de fuites
• Fuite de technologies vers des organisations criminelles et des États hostiles
• Utilisation pour des cyberattaques automatisées, du phishing et l'intrusion dans des systèmes d'infrastructures critiques

Le paradoxe de la concurrence et les barrières à l'entrée

Un paradoxe économique intéressant joue ici. Des entreprises qui investissent des milliards dans la R&D et ont atteint le leadership mondial en IA demandent à l'État d'ériger de hautes barrières à l'entrée pour leurs concurrents. Si chaque nouveau modèle exige l'aval de l'État, les petites start-up ne pourront tout simplement pas rivaliser : elles n'ont ni les ressources ni les relais à Washington pour franchir un processus bureaucratique. OpenAI et Anthropic, elles, entretiennent déjà des relations avec les autorités et peuvent négocier des conditions plus souples ou un examen accéléré.

Mais il ne s'agit pas seulement d'une stratégie commerciale assumée. Amodei, Altman et les dirigeants des deux entreprises semblent réellement croire qu'une IA très puissante exige une supervision de l'État. S'ils ont raison, la régulation serait logique, comme pour l'aviation, la pharmacie ou l'énergie nucléaire.

Et ensuite ?

La réaction de la Maison-Blanche n'est pas encore connue. Mais la lettre arrive au moment où l'administration américaine accorde davantage d'attention à la politique de l'IA et à ses risques potentiels.

Si les autorités entendent cet appel, l'industrie de l'IA changera radicalement. Les petites start-up attendront des mois, voire des années, une approbation étatique. Le lancement d'un nouveau modèle ralentira. L'innovation rapide pourrait s'essouffler. Mais, dans le même temps, le risque de mise sur le marché incontrôlée de systèmes réellement dangereux, susceptibles d'être utilisés pour la désinformation ou pour nuire, diminuera.

L'alternative consiste à poursuivre la concurrence sauvage actuelle et à espérer que la responsabilité interne des entreprises suffira. L'histoire montre que, dans les domaines en forte croissance et prometteurs (réseaux sociaux, fintech, voitures autonomes), cet espoir est souvent déçu. Le marché ne s'autorégule pas toujours de façon optimale pour la société.