Anthropic detalha as defesas cibernéticas do Fable 5 e propõe escala de gravidade para jailbreaks

Em 2 de julho de 2026, a Anthropic descreveu em detalhes como funcionam os classificadores de segurança do modelo Fable 5 e divulgou o primeiro rascunho de um framework setorial para avaliar a gravidade de jailbreaks.

Como funcionam os classificadores de segurança do Fable 5

A segurança cibernética é uma área de uso duplo por natureza: as mesmas capacidades podem servir tanto para defesa quanto para ataque. Por isso, a Anthropic não tenta bloquear tudo o que se relaciona ao tema. Em vez disso, os classificadores do Fable 5 avaliam cada solicitação em quatro categorias:

• Uso proibido: ações que, na maioria dos casos, podem causar dano significativo e não têm valor defensivo. Bloqueadas incondicionalmente.
• Uso duplo de alto risco: ferramentas muito usadas por criminosos, mas que também têm aplicações legítimas. Também são bloqueadas.
• Uso duplo de baixo risco: capacidades de caráter principalmente defensivo que, em teoria, também podem ser úteis a atacantes. Monitoradas; às vezes bloqueadas dentro da margem de segurança.
• Uso inofensivo: tarefas legítimas sem potencial de dano. Permitidas, com monitoramento.

O conceito central do sistema é a «margem de segurança»: uma zona deliberadamente ampliada em que o classificador bloqueia solicitações por cautela, mesmo quando elas parecem potencialmente inofensivas. Uma solicitação precisa parecer claramente segura para ter a aprovação garantida. No Fable 5, a Anthropic deixou essa margem mais ampla do que nos modelos anteriores.

Por que o setor precisa de uma escala única de gravidade de jailbreaks?

Um jailbreak é uma forma não convencional de fazer um modelo de IA contornar as próprias restrições. Ele pode ser quase inofensivo (remove apenas uma restrição menor) ou criticamente perigoso (abre um amplo leque de capacidades nocivas e torna o modelo fundamentalmente mais perigoso). Mesmo assim, o setor não tem uma terminologia comum para avaliar esses riscos, o que dificulta seriamente o diálogo entre empresas de IA e reguladores.

A Anthropic, junto com os parceiros do Glasswing, preparou um primeiro rascunho desse framework. A empresa o vê como ponto de partida para uma ampla discussão com a comunidade acadêmica, a indústria, a sociedade civil e órgãos governamentais. Sugestões são recebidas em [email protected].

«Acreditamos que, trabalhando juntos, poderemos desenvolver um padrão que permita usar essa tecnologia para fins defensivos e, ao mesmo tempo, impeça abusos», diz a

Anthropic em comunicado oficial.

Em paralelo, a empresa lançou um programa na plataforma HackerOne: pesquisadores de segurança podem enviar oficialmente os jailbreaks que encontrarem no Fable 5 para análise da equipe da Anthropic.

O que isso significa

A Anthropic reconhece abertamente a complexidade fundamental da segurança cibernética como área de uso duplo e escolhe uma abordagem calibrada em vez de bloqueios totais. O framework de gravidade de jailbreaks é a primeira tentativa setorial séria de criar uma linguagem comum entre laboratórios de IA e reguladores. Se o padrão pegar, as empresas poderão descrever ameaças de contorno de segurança em termos consensuais, e os governos poderão avaliar com mais precisão os riscos de novos modelos.

Perguntas frequentes

O que é a «margem de segurança» no Fable 5?

A «margem de segurança» é uma zona em que o classificador bloqueia solicitações por cautela, mesmo que elas não pareçam claramente nocivas. Isso reduz o risco de liberar por engano tarefas perigosas, ao custo de alguns falsos positivos. No Fable 5, a Anthropic ampliou deliberadamente essa zona em relação aos modelos anteriores.

Como os pesquisadores podem reportar um jailbreak encontrado no

Fable 5?

A Anthropic lançou um programa específico no HackerOne: pesquisadores de segurança podem enviar os jailbreaks que descobrirem para análise oficial. Propostas conceituais sobre o framework de gravidade são recebidas em [email protected].