Le Trésor américain veut accéder au modèle Mythos d'Anthropic pour y chercher des failles

Le Trésor américain veut accéder au modèle Mythos d'Anthropic afin de commencer à y chercher des vulnérabilités avant son utilisation plus large dans des scénarios sensibles. La demande elle-même montre que les agences américaines passent des discours généraux sur l'IA à la vérification pratique de modèles précis, sur la fiabilité, la contrôlabilité et la résistance aux détournements.

Selon les informations disponibles, l'équipe technologique du Trésor américain tente d'obtenir l'accès à Mythos. L'objectif semble ne pas être de déployer le modèle pour la productivité, mais de mener un audit de sécurité : les spécialistes veulent comprendre où le système peut défaillir, comment il réagit à des requêtes atypiques et s'il est possible de le pousser à sortir de ses propres limites.

Il n'existe pour l'instant aucun détail officiel sur le format de la vérification, ni de confirmation qu'Anthropic ait déjà accordé l'accès. Les caractéristiques techniques de Mythos ne sont pas non plus divulguées : il est donc trop tôt pour dire s'il s'agit d'un produit interne, spécialisé ou en préparation pour un usage plus large.

Pour le gouvernement américain, ce travail semble logique. Plus les structures publiques envisagent l'IA pour analyser des données, préparer des documents, assister les agents et automatiser des processus internes, plus le coût des erreurs augmente. Pour les systèmes fédéraux, les problèmes peuvent ne pas être seulement réputationnels. Il peut s'agir de fuites d'informations sensibles, de contournement des protections, de recommandations peu fiables ou d'un comportement du modèle qui peut être provoqué délibérément. C'est pourquoi l'accès précoce au modèle compte autant que les promesses publiques du développeur en matière de sécurité.

Si l'équipe du Trésor lance effectivement les tests, elle cherchera probablement les points faibles typiques des systèmes génératifs actuels. Ce type de vérification comprend généralement des tentatives de contourner les restrictions intégrées, d'obtenir des réponses dangereuses, d'extraire des instructions cachées, de tester la résistance aux injections de prompt, ainsi que d'évaluer le traitement des données confidentielles et des contextes longs. Cela ne signifie pas que de tels problèmes ont déjà été découverts dans Mythos. Il s'agit plutôt de l'ensemble standard de questions posées aujourd'hui à tout modèle avancé, surtout s'il peut être utilisé par des organismes à haute responsabilité.

Le choix de l'entreprise suscite un intérêt particulier. Anthropic bâtit de longue date sa réputation sur la sécurité et le comportement maîtrisé de ses modèles. Si l'État veut un accès direct, même à de tels systèmes, pour ses propres tests de résistance, cela souligne un nouveau standard dans les relations entre pouvoirs publics et entreprises d'IA : les assurances générales ne suffisent pas, il faut des vérifications réelles du côté du client ou du régulateur. Pour les développeurs, cela représente une pression supplémentaire : il leur faudra se préparer non seulement à la concurrence du marché, mais à des audits techniques toujours plus poussés.

Cette affaire compte aussi parce qu'elle change la logique de l'intérêt de l'État pour l'IA. Il n'y a pas si longtemps, les responsables discutaient surtout de règles, de risques et de cadres généraux. Désormais, l'attention se déplace vers des modèles précis, des scénarios précis et des vulnérabilités précises. C'est une étape plus concrète : à la place d'une régulation abstraite, on cherche à comprendre comment un système se comporte dans des conditions de stress réelles. Pour le marché, c'est le signe que la confiance dans les modèles de pointe reposera de plus en plus sur les résultats de vérifications indépendantes, et non sur des présentations.

La conclusion principale est simple : l'État commence à traiter les systèmes d'IA avancés comme d'autres technologies critiques : d'abord l'accès, puis les tests, et seulement ensuite, éventuellement, le déploiement. Pour Anthropic, ce peut être un test de maturité de son approche de la sécurité ; pour l'ensemble du marché, un indice que l'ère des promesses informelles touche à sa fin et que commence celle de la vérification obligatoire.