Anthropic va discuter des vulnérabilités de Claude Mythos avec le régulateur financier mondial

Anthropic discute de Claude Mythos avec le Financial Stability Board, un organisme mondial qui surveille les risques pesant sur le système financier mondial. L'entreprise garde délibérément le modèle hors de l'accès public, par crainte qu'il serve à des cyberattaques.

Ce qu'est Claude Mythos

Claude Mythos est la prochaine génération de modèles de langage d'Anthropic. Il surpasse nettement les versions précédentes en analyse, en programmation et en résolution de tâches techniques complexes. Le modèle se montre plus efficace sur le code, ce qui le rend à la fois utile pour des usages légitimes en développement logiciel et potentiellement dangereux entre les mains de pirates.

Lors de tests internes, Mythos a affiché des résultats impressionnants, mais Anthropic a décidé de s'abstenir d'une sortie publique. L'entreprise reconnaît que le modèle peut servir à automatiser des cyberattaques contre des infrastructures critiques. Ce n'est pas la première fois que des développeurs d'IA font une pause pour des raisons de sécurité, et des décisions similaires ont déjà été prises, mais le niveau de menace est ici plus sérieux.

Le rôle du Financial Stability Board

Le Financial Stability Board est une organisation internationale qui coordonne le travail des régulateurs financiers de différents pays. Il est présidé par Andrew Bailey, gouverneur de la Bank of England. Ses membres sont des représentants de banques centrales, d'autorités de supervision financière et d'organisations financières internationales des principales économies du monde.

Qu'Anthropic discute de Mythos précisément avec le FSB indique l'ampleur de l'inquiétude. Il ne s'agit pas d'une menace pour une seule entreprise, mais de risques pour l'ensemble du système financier. Le problème passe ainsi de la cybersécurité d'entreprise à la politique nationale et internationale.

Le FSB traite justement de ces questions : il surveille les risques susceptibles de déstabiliser le système financier mondial. Les cybermenaces, en particulier celles liées à l'IA, entrent dans cette catégorie.

• Menaces pour les systèmes bancaires et les réseaux de paiement internationaux
• Risque de cyberattaques ciblées contre les réseaux électriques et les infrastructures
• Potentiel de fraude financière à grande échelle
• Nécessité de coordonner les régulateurs internationaux
• Influence sur la future politique de développement des modèles d'IA

Une approche raisonnable de l'innovation

Anthropic se trouve dans une position délicate : l'entreprise a créé un outil puissant et veut continuer à le développer, mais mesure sa responsabilité envers la société. La décision de ne pas publier Mythos est une tentative de trouver un équilibre : développer la technologie dans des conditions contrôlées, discuter des risques avec les régulateurs, prévenir les abus.

Cette approche rappelle des précédents historiques avec d'autres technologies sensibles : la biologie de synthèse, l'expertise en armement, le développement de la cryptographie. Lorsqu'une technologie devient assez puissante, ses développeurs doivent prendre en compte non seulement les paramètres techniques, mais aussi les conséquences sociales et sécuritaires.

Ce que cela signifie

L'histoire de Claude Mythos montre un basculement de fond : l'IA de pointe n'est plus un sujet purement technique ou commercial. C'est désormais une question de sécurité nationale, de stabilité financière et de politique mondiale. Les régulateurs commencent à participer activement au développement de l'IA, et le dialogue entre entreprises et autorités devient la norme plutôt que l'exception.