Anthropic détaille les protections cyber de Fable 5 et propose une échelle de gravité des jailbreaks

Le 2 juillet 2026, Anthropic a décrit en détail le fonctionnement des classificateurs de sécurité du modèle Fable 5 et publié un premier brouillon de cadre sectoriel pour évaluer la gravité des jailbreaks.

Comment fonctionnent les classificateurs de sécurité de

Fable 5

La cybersécurité est un domaine fondamentalement à double usage : les mêmes capacités peuvent servir à défendre comme à attaquer. C'est pourquoi Anthropic ne cherche pas à bloquer tout ce qui s'y rapporte. Les classificateurs de Fable 5 évaluent plutôt chaque requête selon quatre catégories :

• Usage interdit : actions qui, dans la plupart des cas, peuvent causer un préjudice important et n'ont aucune valeur défensive. Bloquées sans condition.
• Double usage à haut risque : outils largement employés par les attaquants, mais qui ont aussi des usages légitimes. Également bloqués.
• Double usage à faible risque : capacités surtout défensives, théoriquement utiles aussi aux attaquants. Surveillées ; parfois bloquées au titre de la marge de sécurité.
• Usage inoffensif : tâches légitimes sans potentiel de nuisance. Autorisées, avec surveillance.

Le concept clé du système est la « marge de sécurité » : une zone volontairement élargie dans laquelle le classificateur bloque les requêtes par précaution, même lorsqu'elles semblent potentiellement inoffensives. Une requête doit paraître clairement sûre pour être assurée de passer. Pour Fable 5, Anthropic a volontairement rendu cette marge plus large que pour ses modèles précédents.

Pourquoi faut-il une échelle unique de gravité des jailbreaks ?

Un jailbreak est une méthode détournée pour amener un modèle d'IA à contourner ses propres restrictions. Il peut être presque anodin (il ne lève qu'une interdiction mineure) ou d'une gravité critique (il ouvre un large éventail de capacités nuisibles et rend le modèle fondamentalement plus dangereux). Or le secteur ne dispose d'aucune terminologie commune pour évaluer ces risques, ce qui complique sérieusement le dialogue entre les entreprises d'IA et les régulateurs.

Anthropic, avec ses partenaires Glasswing, a préparé un premier brouillon d'un tel cadre. L'entreprise le présente comme un point de départ pour une large discussion associant le monde académique, l'industrie, la société civile et les autorités publiques. Les propositions sont reçues à l'adresse [email protected].

«

Nous croyons qu'en travaillant ensemble, nous pourrons élaborer un standard qui permette d'utiliser cette technologie à des fins défensives tout en empêchant les abus », déclare Anthropic dans son communiqué officiel.

Parallèlement, l'entreprise a lancé un programme sur la plateforme HackerOne : les chercheurs en sécurité peuvent soumettre officiellement les jailbreaks qu'ils découvrent dans Fable 5 à l'examen de l'équipe d'Anthropic.

Ce que cela signifie

Anthropic reconnaît ouvertement la difficulté de fond de la cybersécurité en tant que domaine à double usage et choisit une approche calibrée plutôt que des blocages systématiques. Le cadre de gravité des jailbreaks est la première tentative sectorielle sérieuse de créer un langage commun entre laboratoires d'IA et régulateurs. Si le standard s'impose, les entreprises pourront décrire les menaces de contournement de la sécurité dans des termes convenus, et les gouvernements évaluer plus précisément les risques des nouveaux modèles.

Questions fréquentes

Qu'est-ce que la « marge de sécurité » dans Fable 5 ?

La « marge de sécurité » est une zone dans laquelle le classificateur bloque les requêtes par précaution, même si elles ne paraissent pas clairement nuisibles. Cela réduit le risque d'autoriser par erreur des tâches dangereuses, au prix d'un certain nombre de faux positifs. Dans Fable 5, Anthropic a volontairement élargi cette zone par rapport aux modèles précédents.

Comment les chercheurs peuvent-ils signaler un jailbreak trouvé dans

Fable 5 ?

Anthropic a lancé un programme dédié sur HackerOne : les chercheurs en sécurité peuvent soumettre les jailbreaks qu'ils découvrent pour un examen officiel. Les propositions conceptuelles sur le cadre de gravité sont reçues à l'adresse [email protected].