Axios : des dirigeants d'Anthropic et d'OpenAI répètent à huis clos un scénario de catastrophe liée à l'IA

Les dirigeants des principaux laboratoires d'IA, dont Anthropic et OpenAI, font tourner en privé un scénario dans lequel survient un événement catastrophique provoqué par l'IA. Ils cherchent à comprendre comment le public et les responsables politiques réagiraient, et ce que l'entreprise devrait faire à ce moment-là. C'est ce que rapporte Axios dans un article exclusif. Le média qualifie cet exercice de préparation au « the day after », c'est-à-dire au lendemain de l'incident. Le média chinois Jiqizhixin a mis en titre un délai « d'ici un an ». Il s'agit de son interprétation : le fragment de l'original dont nous disposons ne contient pas une telle prévision, et nous n'avons pas le texte intégral d'Axios.

Ce que les dirigeants répètent exactement

Le cadre de l'exercice compte. Il ne s'agit pas d'empêcher l'incident : ce rôle revient aux politiques techniques comme la Responsible Scaling Policy chez Anthropic et le Preparedness Framework chez OpenAI. Les dirigeants travaillent sur l'étape suivante : l'événement a déjà eu lieu, l'opinion publique s'enflamme, et des auditions sont convoquées et des projets de loi rédigés à Washington et dans d'autres capitales. La question est de savoir ce que les entreprises diront, ce qu'elles arrêteront et qui elles appelleront dans les premières heures.

D'autres secteurs connaissent ce type d'exercices. Compagnies aériennes, banques et laboratoires pharmaceutiques répètent depuis longtemps la communication de crise. Pour l'industrie de l'IA, la pratique est nouvelle. Son apparition montre qu'au sein des entreprises, le scénario est jugé assez réaliste pour mobiliser le temps de la direction.

Ce que l'on sait à ce stade

• Source : une exclusivité d'Axios, reprise par Jiqizhixin.
• Participants : des dirigeants d'Anthropic, d'OpenAI et d'autres entreprises d'IA ; la liste complète n'est pas divulguée dans le fragment dont nous disposons.
• Format : une simulation des conséquences privée et à huis clos, et non une initiative publique.
• Objet : la réaction de la société et des responsables politiques, ainsi que les réponses des entreprises.
• Ce que l'on ignore : le type précis de catastrophe, les critères qui définissent un événement « catastrophique », l'existence d'un protocole commun entre les entreprises.
• Délai « d'ici un an » : il provient du titre de Jiqizhixin ; nous n'en avons pas vu de confirmation dans le texte d'Axios.

Pourquoi c'est important pour le marché

La réaction du secteur à un incident majeur est presque toujours plus dure que la régulation en temps normal. Si un système d'IA se retrouve impliqué dans un préjudice réel, l'attention ne se portera pas seulement sur l'entreprise fautive, mais sur tous les développeurs de modèles de pointe. Le risque est donc partagé : les restrictions peuvent les toucher tous en même temps.

Il est donc intéressant de savoir dans quelle mesure ces répétitions sont coordonnées entre concurrents. Si les laboratoires s'accordent sur des procédures communes de divulgation d'informations et d'arrêt des systèmes, les régulateurs disposeront d'un modèle prêt à l'emploi pour la discussion. Si chacun suit sa propre voie, les entreprises risquent de se contredire publiquement dans les premiers jours de la crise. Pour l'instant, les données ne permettent pas de conclure.

Que faire pour les équipes qui construisent sur ces modèles

Pour les entreprises qui dépendent de l'API des grands laboratoires, cette information se lit comme un signal de risque sur la chaîne d'approvisionnement. Trois mesures suffisent aujourd'hui :

• vérifier s'il est possible de basculer rapidement vers un autre fournisseur ou un modèle local si l'accès au fournisseur principal est restreint ;
• recenser les processus qui s'arrêteraient en cas d'indisponibilité d'un service d'IA, et tester le mode manuel ;
• préparer son propre plan de communication en cas d'incident lié à votre produit reposant sur l'IA.

Les laboratoires eux-mêmes devront aussi répondre à des questions : quels scénarios envisagent-ils, et sont-ils prêts à en discuter publiquement ? Les détails de l'article original d'Axios permettront de mesurer le sérieux de cette préparation.