Guardian→ original

Anthropic a créé le modèle Mythos — et a décidé de ne pas le lancer pour des raisons de sécurité

Anthropic a développé le modèle Mythos Preview — puis a décidé de ne pas le lancer. Selon l'entreprise, le modèle est trop performant pour trouver et…

Traité par IA depuis Guardian ; édité par Hamidun News
Anthropic a créé le modèle Mythos — et a décidé de ne pas le lancer pour des raisons de sécurité
Source : Guardian. Collage: Hamidun News.
◐ Écouter l'article

Anthropic a refusé de lancer le nouveau modèle Mythos Preview en accès public, citant son danger exceptionnel. Selon l'entreprise, le modèle est si compétent dans la détection et l'exploitation des vulnérabilités de logiciels que sa publication publique créerait une menace pour la stabilité économique, la sécurité publique et les intérêts nationaux. C'est un cas rare où une grande entreprise d'IA décide de retenir son propre développement — et cela a déjà provoqué des différends entre les experts de l'industrie.

Mythos Preview est un modèle de langage expérimental d'Anthropic, que l'entreprise a caractérisé comme trop puissant pour une publication publique. Selon les informations disponibles, le modèle démontre des capacités exceptionnelles en cybersécurité : il peut détecter indépendamment les vulnérabilités dans le code et construire des chaînes de leur exploitation. En essence, cela signifie que Mythos peut fonctionner comme un analyste hacker hautement qualifié — rapidement, à grande échelle et sans supervision humaine.

Anthropic n'a pas publié de détails techniques sur le processus de formation du modèle ni d'évaluations de sécurité indépendantes, se limitant à promettre l'accès à Mythos Preview uniquement à des chercheurs sélectionnés et à des agences gouvernementales. La décision de l'entreprise a provoqué des réactions mitigées dans la communauté d'experts. Certains chercheurs en sécurité de l'IA reconnaissent que les puissants outils offensifs de cybersécurité méritent effectivement une prudence particulière dans leur distribution.

Les scanners automatisés de vulnérabilités existants sont déjà activement utilisés par les acteurs malveillants — et les LLM avec des capacités de raisonnement avancées pourraient élever cette menace à un niveau fondamentalement nouveau. Une autre partie des experts est sceptique. Anthropic n'a pas fourni d'évaluations indépendantes ni de tests reproductibles des capacités de Mythos.

De plus, la restriction d'accès bénéficie indirectement à l'entreprise elle-même : elle semble être un leader responsable de l'industrie sans courir les risques des critiques publiques du modèle. Les observateurs notent également que ces déclarations coïncident avec les discussions actives sur la réglementation de l'IA dans les gouvernements américains et européens. La question que posent les sceptiques : s'agit-il d'une menace réelle ou d'un PR habilement construit ?

Anthropic se positionne régulièrement comme une entreprise d'IA sûre — contrairement à ses concurrents, qui prétendument privilégient la rapidité de lancement à la prudence. Ce positionnement attire les investisseurs, la loyauté des régulateurs et la confiance des clients corporatifs. La décision concernant Mythos s'inscrit parfaitement dans cette logique : l'entreprise démontre sa volonté de sacrifier l'accès commercial pour la sécurité.

Mais les critiques soulignent : vous ne pouvez pas être à la fois juge et accusé. Il n'y a pas d'évaluation indépendante des capacités du modèle — il n'y a que la parole d'Anthropic. L'histoire de Mythos pose une question qui deviendra clé pour toute l'industrie dans les années à venir : qui exactement décide du degré de danger d'un système d'IA particulier, et qui vérifie la correctitude de cette décision ?

Si les entreprises établissent elles-mêmes cette limite, un conflit d'intérêts est inévitable. Le cas de Mythos Preview pourrait devenir le premier vrai cas test pour les mécanismes réglementaires actuellement en cours de développement des deux côtés de l'Atlantique.

ZK
Hamidun News
Actualités IA sans bruit. Sélection éditoriale quotidienne de plus de 400 sources. Produit de Zhemal Khamidun, Head of AI chez Alpina Digital.

Vous voulez cesser de lire sur l'IA et commencer à l'utiliser?

AI News est un fil d'actualité IA. Hamidun Academy vous apprend à utiliser l'IA dans votre travail.

Qu'en pensez-vous ?
Chargement des commentaires…