Anthropic a créé Mythos, puis refusé de le publier pour des raisons de sécurité

Anthropic a refusé de mettre en accès libre son nouveau modèle Mythos Preview, en invoquant son danger exceptionnel. Selon l'entreprise, le modèle trouve et exploite si bien les vulnérabilités logicielles qu'une sortie publique menacerait la stabilité économique, la sécurité publique et les intérêts nationaux. C'est un cas rare où une grande entreprise d'IA choisit elle-même de retenir sa propre création, et cela a déjà suscité des débats parmi les spécialistes du secteur.

Mythos Preview est un modèle de langage expérimental d'Anthropic, que l'entreprise juge trop puissant pour une sortie publique. D'après les informations disponibles, le modèle affiche des capacités remarquables en cybersécurité : il peut découvrir seul des vulnérabilités dans le code et enchaîner les étapes pour les exploiter. Concrètement, Mythos pourrait fonctionner comme un analyste pirate très qualifié : rapide, à grande échelle et sans supervision humaine.

Anthropic n'a publié ni détails techniques sur l'entraînement du modèle, ni évaluations de sécurité indépendantes. L'entreprise s'est contentée de promettre un accès à Mythos Preview à quelques chercheurs sélectionnés et à des structures gouvernementales.

La décision a suscité une réaction mitigée parmi les experts. Certains chercheurs en sécurité de l'IA reconnaissent que les outils puissants de cybersécurité offensive méritent effectivement une prudence particulière lors de leur diffusion. Les scanners automatisés de vulnérabilités existants sont déjà largement utilisés par des acteurs malveillants, et un LLM doté d'un raisonnement avancé pourrait faire passer cette menace à un niveau radicalement nouveau.

D'autres experts se montrent sceptiques. Anthropic n'a fourni ni évaluations indépendantes ni tests reproductibles des capacités de Mythos. Par ailleurs, la restriction d'accès profite indirectement à l'entreprise elle-même : elle apparaît comme un leader responsable du secteur sans s'exposer aux critiques publiques sur le modèle. Les observateurs notent aussi que ces déclarations coïncident avec les discussions actives sur la régulation de l'IA au sein des gouvernements américain et européen.

Les sceptiques se demandent s'il s'agit d'une menace réelle ou d'une opération de communication habilement orchestrée. Anthropic se positionne systématiquement comme l'entreprise d'IA responsable, contrairement à des concurrents qui, selon elle, placeraient la vitesse de sortie au-dessus de la prudence. Ce positionnement attire les investisseurs, la bienveillance des régulateurs et la confiance des clients professionnels. La décision sur Mythos s'inscrit parfaitement dans cette logique : l'entreprise montre qu'elle est prête à sacrifier l'accès commercial au nom de la sécurité.

Mais les critiques soulignent qu'on ne peut pas être à la fois juge et accusé. Il n'existe aucune évaluation indépendante des capacités du modèle, seulement la parole d'Anthropic.

L'histoire de Mythos pose une question qui sera centrale pour tout le secteur dans les années à venir : qui décide du degré de dangerosité d'un système d'IA, et qui vérifie que cette décision est juste ? Si les entreprises fixent elles-mêmes cette limite, le conflit d'intérêts est inévitable. Le cas de Mythos Preview pourrait devenir le premier véritable test pour les mécanismes de régulation en cours d'élaboration des deux côtés de l'Atlantique.