OpenAI et Anthropic demandent l'interdiction des modèles IA dangereux au niveau gouvernemental

OpenAI et Anthropic ont adressé une lettre ouverte au Bureau de la politique scientifique et technologique de la Maison Blanche. C'est une démarche inhabituelle : deux des plus grandes entreprises du secteur de l'IA demandent elles-mêmes à l'État de les contrôler et de les réguler plus strictement.

L'essence de la lettre et la demande

Les entreprises demandent l'introduction de restrictions gouvernementales sur le développement et le déploiement de modèles IA qui présentent certains risques. En réalité, OpenAI et Anthropic demandent que le gouvernement américain ait le droit et les mécanismes nécessaires pour interdire aux développeurs de déployer de nouveaux modèles s'ils présentent une menace pour la sécurité ou les intérêts nationaux. Ce n'est pas une demande de régulation modérée ou d'autodiscipline de l'industrie.

Les entreprises demandent précisément des interdictions — quand l'État peut dire « non, vous ne pouvez pas lancer ce modèle ». C'est similaire au fonctionnement du contrôle des technologies nucléaires, de l'aviation, des médicaments ou des additifs alimentaires : avant un lancement en production de masse, un examen et une approbation sont nécessaires. Cette approche garantit que les systèmes puissants ne tombent pas entre les mains de ceux qui pourraient les utiliser de manière nuisible.

Pourquoi ils le proposent

Dario Amodei, PDG d'Anthropic, a souligné que l'insuffisance du contrôle gouvernemental et les vérifications faibles des clients pourraient entraîner des menaces graves pour la société. L'entreprise voit le problème dans le fait que n'importe qui peut actuellement accéder à un modèle puissant sans vérification suffisante de la manière dont il sera utilisé, pour quels objectifs et qui exactement travaillera avec le système. Il ne s'agit pas seulement de cas marginaux ou de scénarios théoriques.

OpenAI et Anthropic observent l'écosystème des startups et des entreprises qui se développent rapidement et se concurrencent pour le financement et la part de marché. Sans restrictions gouvernementales, cette concurrence pourrait conduire quelqu'un à lancer un modèle dangereux sans vérifications, simplement pour accéder plus rapidement au marché et attirer des investissements. La précipitation est l'ennemie de la sécurité.

Les principaux risques qui préoccupent les deux entreprises :

• Utilisation des modèles pour créer de la désinformation, la manipulation et les contrefaçons à grande échelle
• Déploiement sans vérification des objectifs, de l'intégrité du client et des intentions réelles
• Absence de mécanisme de pénalités, d'interdictions et de responsabilité pour les violations et les fuites
• Fuite de technologies aux mains des organisations criminelles et des États hostiles
• Application pour les cyberattaques automatisées, le phishing et le piratage des infrastructures critiques

Le paradoxe de la concurrence et les barrières à l'entrée

Un paradoxe économique intéressant se manifeste ici. Les entreprises qui investissent des milliards en R&D et ont atteint le leadership mondial en IA demandent à l'État d'établir des barrières à l'entrée élevées pour les concurrents. Si l'approbation gouvernementale est nécessaire pour chaque nouveau modèle, les petites startups ne pourront tout simplement pas concurrencer — elles n'ont pas les ressources et les connexions à Washington pour naviguer le processus bureaucratique.

Tandis qu'OpenAI et Anthropic ont déjà des relations avec les autorités et pourraient convenir de conditions plus souples ou d'un examen accéléré. Mais ce n'est pas seulement une stratégie commerciale sans détour. Amodei, Altman et la direction des deux entreprises semblent vraiment croire qu'une IA très puissante nécessite une surveillance gouvernementale.

S'ils ont raison dans cette évaluation, la régulation serait logique — comme pour l'aviation, les produits pharmaceutiques ou l'énergie nucléaire.

Et ensuite ?

La réaction de la Maison Blanche est pour l'instant inconnue. Mais la lettre arrive à un moment où l'administration américaine accorde davantage d'attention à la politique de l'IA et aux risques potentiels. Si les autorités écoutent cet appel, l'industrie de l'IA changera radicalement.

Les petites startups attendront des mois ou des années l'approbation gouvernementale. Le processus de lancement d'un nouveau modèle ralentira. L'innovation rapide pourrait devenir plus lente.

Mais en même temps, les risques de lancement incontrôlé de véritables systèmes dangereux, qui pourraient être utilisés pour la désinformation ou causer du tort, diminueront. L'alternative est de poursuivre la concurrence effrénée actuelle et d'espérer que la responsabilité interne des entreprises suffira. L'histoire montre que dans les domaines en croissance rapide et prometteurs (réseaux sociaux, fintech, voitures autonomes), un tel espoir est souvent déçu.

Le marché ne s'auto-régule pas toujours de manière optimale pour la société.