Les régulateurs sonnent l'alarme : le modèle Mythos d'Anthropic menacerait la stabilité financière mondiale

Les régulateurs sonnent l'alarme : le modèle Mythos d'Anthropic menacerait la stabilité financière mondiale

L'innovation en intelligence artificielle se retrouve à nouveau au cœur d'un scandale mondial. Cette fois, ce ne sont pas la propriété intellectuelle des créateurs de contenus qui sont menacés, mais le socle même de l'économie mondiale. La start-up Anthropic, l'un des acteurs majeurs des réseaux de neurones génératifs, a présenté un modèle d'IA spécialisé baptisé Mythos, dont la mission principale est la recherche automatisée et approfondie de vulnérabilités dans le code.

L'entreprise a pris des précautions sans précédent et limité strictement l'accès à sa création à un cercle restreint de spécialistes. Malgré cela, les régulateurs financiers de plusieurs États ont donné l'alerte. Selon les autorités monétaires, l'apparition d'un outil d'analyse de code aussi puissant crée des risques critiques pour la stabilité financière mondiale et transforme des cybermenaces théoriques en réalité tangible et inquiétante.

À l'origine, le projet Mythos avait été conçu comme un outil de défense ultime, capable de changer en profondeur les règles du jeu dans la sécurité informatique. Les ingénieurs d'Anthropic voulaient bâtir une intelligence artificielle capable de passer au crible des millions de lignes de code et d'y repérer en quelques minutes des erreurs de logique, des défauts d'architecture et des portes dérobées (backdoors) cachées. Des équipes entières d'auditeurs professionnels y consacrent des semaines, voire des mois.

Conscients du potentiel destructeur de la technologie si elle tombait entre de mauvaises mains, ses créateurs ont délibérément renoncé à une publication grand public. L'accès au modèle a été accordé exclusivement à des experts de haut niveau en cybersécurité, dans le cadre de tests fermés et strictement contrôlés, censés écarter tout scénario d'usage malveillant incontrôlé. Même ces mesures préventives rigoureuses n'ont toutefois pas rassuré les organes de supervision, qui voient dans la seule existence d'un tel algorithme une bombe à retardement technologique.

L'inquiétude des banques centrales et des grandes institutions financières repose sur des bases solides. L'infrastructure bancaire mondiale actuelle forme un monolithe colossal et extrêmement complexe, où des solutions cloud de pointe se superposent souvent à des systèmes obsolètes. Les passerelles de transactions, les chambres de compensation, les systèmes d'échange de données interbancaires et les bases de données des centres de traitement des paiements sont indissociablement liés par des milliers d'interfaces de programmation.

Nombre de ces nœuds critiques reposent sur du code hérité (legacy), que les spécialistes actuels peinent à maintenir et qui n'est objectivement pas prêt à être examiné par une intelligence machine. Les régulateurs redoutent, non sans raison, que la puissance de calcul et la profondeur d'analyse de Mythos permettent de détecter des vulnérabilités zero-day à une vitesse inédite. Si des attaquants trouvaient le moyen de contourner les restrictions d'Anthropic, de pirater les serveurs de l'entreprise ou d'obtenir un accès non autorisé via les comptes compromis de chercheurs légitimes, les conséquences pour l'économie mondiale pourraient être irréversibles.

L'épisode met crûment en lumière un dilemme fondamental du développement de l'intelligence artificielle, que les experts appellent le problème du double usage. Des outils créés dans les meilleures intentions, pour renforcer le périmètre numérique et combler préventivement les brèches, possèdent exactement le même potentiel de destruction. Un modèle capable de repérer parfaitement les failles de défense afin que les administrateurs les corrigent est, par nature, l'arme idéale pour planifier des attaques ciblées