Fable do Anthropic é muito restritivo para segurança cibernética

Pesquisadores de cibersegurança e especialistas em segurança da informação estão expressando séria insatisfação com o novo modelo Fable do Anthropic, lançado em acesso aberto. O problema não está no modelo em si — ele é realmente poderoso e capaz — mas em seus mecanismos de segurança. Os guardrails são tão rigorosos que até mesmo profissionais não conseguem usar o Fable para tarefas perfeitamente legítimas de proteção e análise de sistemas.

Muitas Restrições Demais para Trabalho Necessário

Fable é uma nova geração de modelo de linguagem poderoso criado com base na pesquisa de ponta do Anthropic. A empresa deliberadamente incorporou inúmeras restrições para evitar possíveis abusos e uso malicioso. No entanto, os guardrails se mostraram tão rígidos e conservadores que bloqueiam não apenas solicitações perigosas, mas também pesquisas completamente legítimas.

Especialistas em segurança cibernética de universidades, grandes empresas de segurança da informação e divisões corporativas de segurança relatam que é impossível pedir ajuda do modelo nem mesmo para tarefas básicas: análise de vulnerabilidades em código, desenvolvimento de estratégias de proteção de infraestrutura, discussão de métodos de cibersegurança. Praticamente qualquer solicitação contendo palavras-chave como "exploit", "vulnerability", "attack", "breach" ou "malware" é automaticamente rejeitada.

A lista de operações proibidas necessárias para o trabalho inclui:

• Investigação de vulnerabilidades em sistemas e aplicações
• Teste da resiliência da proteção de redes corporativas
• Análise de métodos de ataques cibernéticos conhecidos para desenvolver defesas
• Desenvolvimento de ferramentas de segurança defensiva e scripts
• Consultoria profissional em segurança da informação

O Dilema Clássico: Segurança contra Utilidade

O problema que o Anthropic enfrenta é genuíno e complexo. Por um lado, as empresas que desenvolvem modelos de linguagem precisam proteger seus sistemas de pessoas que os usam para fins maliciosos — desenvolvimento de malware, organização de ataques à infraestrutura, cracking de senha e engenharia social. Por outro lado, os ciber-profissionais — defensores de sistemas, pesquisadores de segurança, testadores de penetração — devem ter acesso a ferramentas modernas poderosas. Eles usam IA para analisar grandes volumes de código, identificar padrões de ataque e desenvolver estratégias de proteção.

"É impossível proteger sistemas se você não tem acesso a ferramentas para analisar ameaças modernas reais", dizem pesquisadores em discussões no

Twitter e fóruns especializados da comunidade de cibersegurança.

Anthroptic enfrentou o dilema clássico de modelos abertos: como abrir um sistema poderoso para pesquisadores legítimos sem colocá-lo nas mãos de pessoas com intenções criminosas? A empresa escolheu uma abordagem conservadora — bloqueando por padrão quase tudo relacionado à segurança. Isso é maximamente seguro em teoria, mas minimamente útil na prática.

Que Soluções os Especialistas Propõem

Alguns especialistas bem conhecidos propõem abordagens mais flexíveis. O modelo poderia exigir verificação adicional para tarefas de segurança — verificação de credenciais profissionais, documentação de afiliação a uma organização acreditada, realização de um processo de review antes do uso. Outros sugerem criar uma versão separada do Fable para especialistas em cibersegurança com guardrails mais suaves, mas com termos de uso apropriados e monitoramento contínuo.

O Que Isso Significa para a Indústria

O debate sobre os guardrails do Fable reflete um problema mais amplo em toda a indústria de IA. As empresas precisam encontrar um equilíbrio entre a proteção contra abuso e a utilidade dos modelos para aplicações legítimas. Restrições muito rigorosas desencorajam especialistas que poderiam ajudar a identificar problemas e melhorar a segurança. Isso pode levar profissionais a simplesmente usar outras ferramentas, desfocando o ecossistema de segurança em vez de fortalecê-lo.