Anthropic sobre agentes de IA em cibersegurança: capacidades e armadilhas

A Anthropic publicou uma pesquisa sobre a aplicação de agentes de IA em tarefas de cibersegurança. Edgar Sipki, autor do Habr e fundador da easyp & sipki tech, decidiu analisar o documento e fazer uma pergunta incômoda: quanto podemos realmente confiar nesses agentes na prática?

O Que a Anthropic Diz

A empresa testou agentes Claude em uma ampla gama de tarefas de segurança da informação — análise estática de código, detecção de vulnerabilidades, construção de modelos de ameaça e avaliação de segurança de infraestrutura. Em cenários típicos, os agentes apresentaram resultados acima do nível médio de um especialista: processaram bases de código grandes mais rapidamente e identificaram padrões comuns de vulnerabilidades que são fáceis de perder durante análises manuais sob pressão de prazos.

Áreas onde os agentes já oferecem valor prático:

• Análise estática de código — detecção de injeções SQL, XSS, dependências inseguras e segredos hardcoded
• Construção automática de modelos de ameaça para novos serviços
• Testes de penetração acelerados: o agente mapeia a superfície de ataque, o especialista se concentra em vetores complexos
• Geração de relatórios detalhados de risco e recomendações para priorizar correções
• Monitoramento de mudanças na base de código quanto a regressões de segurança

No papel soa convincente. Mas com um olhar mais atento, o quadro fica mais complicado.

Onde os Agentes Falham

O principal problema é a qualidade do trabalho em casos extremos. Os agentes alucinam vulnerabilidades que não existem e simultaneamente perdem problemas reais ocultos em código não padrão ou lógica de negócio específica. No contexto da cibersegurança, isso é especialmente crítico. Um falso positivo desperdiça recursos da equipe investigando uma ameaça inexistente. Um falso negativo deixa um buraco real aberto enquanto cria uma falsa sensação de segurança. O segundo cenário é pior que a ausência de uma verificação: adormece a vigilância.

Outra fraqueza é o contexto de sistema limitado. O agente só vê o que lhe é fornecido. Vulnerabilidades vinculadas à interação de múltiplos componentes, especificidades de implantação ou um ambiente de nuvem particular muitas vezes passam despercebidas — elas exigem compreensão de toda a arquitetura, não de arquivos individuais.

Permissões de Acesso — Um Problema Separado

Uma pergunta séria que raramente aparece em materiais de marketing: quais permissões um agente precisa para trabalhar efetivamente em um contexto de segurança? A varredura completa de infraestrutura requer privilégios elevados. E privilégios elevados em si tornam-se um vetor de ataque: se o agente for comprometido ou cometer um erro com consequências — a escala do problema cresce rapidamente. A Anthropic recomenda o princípio do menor privilégio e ambientes isolados para tarefas de segurança baseadas em agentes. Mas a configuração adequada requer trabalho de engenharia adicional — e sob prazos apertados, muitas vezes é ignorada. Isso cria exatamente o buraco que o agente deveria preencher.

"Agentes não são uma substituição para especialistas em segurança, mas uma ferramenta para acelerar seu trabalho" — uma tese chave da pesquisa da

Anthropic.

O Que Isso Significa

Os agentes de IA já oferecem valor em tarefas de segurança rotineiras: análise de código padrão, varredura inicial, preparação de relatórios. Mas confiar-lhes autoridade autônoma sobre infraestrutura crítica é prematuro por enquanto. A principal conclusão, que Edgar Sipki também tira, é que os agentes mudam não a composição da equipe de segurança, mas seu conjunto de ferramentas. O humano no loop permanece obrigatório — especialmente quando o custo do erro é alto.