Fable, da Anthropic, é rígida demais para a cibersegurança

Pesquisadores e especialistas em segurança da informação demonstram forte insatisfação com o Fable, novo modelo da Anthropic, lançado publicamente. O problema não é o modelo em si, que é realmente poderoso e capaz, mas seus mecanismos de proteção. Os guardrails são tão rígidos que nem profissionais conseguem usar o Fable para tarefas totalmente legais de defesa e análise de sistemas.

Proibições demais para um trabalho necessário

O Fable é uma nova geração de modelo de linguagem poderoso, criado com base em pesquisas avançadas da Anthropic. A empresa incluiu deliberadamente várias restrições para evitar possíveis abusos e o uso para fins maliciosos. No entanto, os guardrails se mostraram tão rígidos e conservadores que bloqueiam não só pedidos perigosos, mas também pesquisas totalmente legítimas.

Especialistas de universidades, grandes empresas de segurança da informação e áreas corporativas relatam que não conseguem pedir ajuda ao modelo nem para tarefas básicas: analisar vulnerabilidades em código, desenvolver estratégias de defesa de infraestrutura, discutir métodos de ciberdefesa. Praticamente qualquer pedido que contenha palavras-chave como "exploit", "vulnerability", "attack", "breach" ou "malware" é recusado automaticamente.

A lista de operações bloqueadas de que os profissionais precisam para trabalhar inclui:

• Pesquisa de vulnerabilidades em sistemas e aplicações
• Testes de resistência das defesas de redes corporativas
• Análise de métodos de ciberataques conhecidos para desenvolver defesas
• Criação de ferramentas defensivas e scripts de segurança
• Consultoria profissional em segurança da informação

Um dilema clássico: proteção versus utilidade

O problema enfrentado pela Anthropic é real e complexo. Por um lado, é vital que as empresas que desenvolvem modelos de linguagem protejam seus sistemas de quem os usa com fins maliciosos: criação de malware, organização de ataques à infraestrutura, quebra de senhas e engenharia social. Por outro, os profissionais de cibersegurança (defensores de sistemas, pesquisadores de segurança, pentesters) precisam ter acesso a ferramentas modernas e poderosas. Eles usam IA para analisar grandes volumes de código, encontrar padrões de ataque e desenvolver estratégias de defesa.

"Não dá para defender sistemas sem ter acesso a ferramentas que analisem ameaças reais e atuais", dizem pesquisadores em discussões no

Twitter e em fóruns especializados da comunidade de cibersegurança.

A Anthropic esbarrou no dilema clássico dos modelos abertos: como abrir um sistema poderoso a pesquisadores legítimos sem colocá-lo nas mãos de quem tem intenções criminosas? A empresa optou por uma abordagem conservadora: bloquear por padrão quase tudo que se relaciona a segurança. Em teoria, é o máximo de segurança; na prática, a utilidade é mínima.

Que soluções os especialistas enxergam

Alguns especialistas conhecidos propõem abordagens mais flexíveis. O modelo poderia exigir verificação adicional para tarefas de segurança: checagem de credenciais profissionais, comprovação de vínculo com uma organização acreditada e um processo de revisão antes do uso. Outros sugerem criar uma versão separada do Fable para especialistas em cibersegurança, com guardrails mais brandos, mas com termos de uso adequados e monitoramento constante.

O que isso significa para a indústria

A polêmica em torno dos guardrails do Fable reflete um problema mais amplo de toda a indústria de IA. As empresas precisam encontrar um equilíbrio entre a proteção contra abusos e a utilidade dos modelos para usos legítimos. Restrições rígidas demais afastam especialistas que poderiam ajudar a encontrar problemas e aprimorar a segurança. Isso pode levar os profissionais a simplesmente usar outras ferramentas, fragmentando o ecossistema de segurança em vez de fortalecê-lo.