Anthropic dévoile Claude Mythos 5 et Fable 5, avec une protection contre les cyberattaques

Anthropic a présenté deux nouvelles versions de Claude : Mythos 5 pour les organisations de confiance et Fable 5 pour le grand public. La seconde a été conçue spécifiquement avec des mécanismes qui compliquent son utilisation dans des cyberattaques.

Une séparation selon l'usage

Anthropic répartit ses modèles d'IA selon le public visé et les risques potentiels. Claude Mythos 5 est destiné aux partenaires de confiance, notamment les entreprises de cybersécurité, les organismes de recherche et les clients professionnels qui ont besoin de toutes les capacités du modèle de langage, sans restrictions.

Claude Fable 5 est proposé en accès libre au grand public. L'entreprise y a intégré des restrictions spécifiques pour empêcher que le modèle serve à des cyberattaques et à d'autres fins malveillantes. Cette stratégie permet à Anthropic de proposer un outil d'IA puissant tout en limitant sa responsabilité directe en cas d'usage abusif.

Une protection inscrite dans l'architecture

La différence essentielle de Fable 5 tient à son mécanisme de protection : il ne repose pas simplement sur des instructions ou des interdictions au niveau de l'API (faciles à contourner), mais sur des modifications de l'architecture et du processus d'entraînement du modèle lui-même. Anthropic estime que cette approche est plus fiable et plus durable que les systèmes de contrôle au niveau de l'application.

• Restrictions intégrées pendant l'entraînement du modèle
• Modifications architecturales qui entravent certaines classes de tâches
• Disponibilité publique sans barrière de licence, mais avec des restrictions

Contrairement à un simple filtre, qui détecte les requêtes malveillantes en temps réel, les restrictions intégrées modifient le comportement du modèle à un niveau fondamental. Autrement dit, même en cas de tentative de contournement, le système sera moins utile pour les cyberattaques.

Une pression croissante sur le secteur

La décision d'Anthropic reflète la pression croissante des régulateurs, des responsables politiques et de l'opinion publique, qui exigent des entreprises d'IA qu'elles assument leur responsabilité en cas de dommages potentiels. Dans le débat sur l'utilisation possible des grands modèles de langage dans des cyberattaques, la sortie d'une version « sûre » ressemble à un coup stratégique.

D'autres entreprises, dont OpenAI et Google, subissent aussi cette pression et développent leurs propres approches de contrôle. Mais le secteur n'a toujours pas de standard unique. L'approche à deux niveaux d'Anthropic paraît pragmatique : un accès complet pour les partenaires de confiance, une version limitée mais sûre pour le public.

Ce que cela signifie

Anthropic montre que la sécurité de l'IA commence à être traitée comme une gamme de produits à part entière, et non comme un module complémentaire. Cela pourrait devenir une tendance : au lieu d'un seul modèle pour tous, les entreprises proposeraient plusieurs versions avec différents niveaux de restriction.

Des questions demeurent toutefois sur l'efficacité concrète des restrictions intégrées et sur la volonté des utilisateurs d'accepter des limites en échange d'une promesse de sécurité.