Anthropic sobre agentes de IA em cibersegurança: o que eles fazem e onde falham

A Anthropic publicou um estudo sobre a aplicação de agentes de IA em tarefas de cibersegurança. Edgar Sipki, autor no Habr e fundador da easyp & sipki tech, se propôs a dissecar o documento e fazer uma pergunta incômoda: até que ponto é possível confiar nesses agentes na prática?

O que diz a Anthropic

A empresa testou agentes Claude em um amplo leque de tarefas de segurança da informação: análise estática de código, busca de vulnerabilidades, criação de modelos de ameaças e avaliação da segurança da infraestrutura. Em cenários típicos, os agentes tiveram resultados acima do nível de um especialista médio. Processaram grandes bases de código mais rápido e identificaram padrões comuns de vulnerabilidade, fáceis de passar batido em uma revisão manual feita com prazo apertado.

Áreas em que os agentes já trazem benefício prático:

• Análise estática de código: busca de injeções de SQL, XSS, dependências inseguras e segredos embutidos no código
• Criação automática de modelos de ameaças para novos serviços
• Pentest mais ágil: o agente mapeia a superfície de ataque e o especialista se concentra nos vetores complexos
• Relatórios de risco detalhados e recomendações para priorizar correções
• Monitoramento de mudanças na base de código para detectar regressões de segurança

No papel, parece convincente. Mas, olhando de perto, o quadro se complica.

Onde os agentes falham

O principal problema é a qualidade nos casos limite. Os agentes alucinam vulnerabilidades que não existem e, ao mesmo tempo, deixam passar problemas reais escondidos em código fora do padrão ou em lógica de negócio específica.

Em cibersegurança, isso é especialmente grave. Um falso positivo gasta recursos da equipe investigando uma ameaça inexistente. Um falso negativo deixa uma brecha real aberta e ainda cria uma falsa sensação de segurança. O segundo cenário é pior do que não verificar nada: ele adormece a vigilância.

Outra fraqueza é o contexto limitado do sistema. O agente enxerga apenas o que lhe foi fornecido. Vulnerabilidades ligadas à interação entre vários componentes, a particularidades do deploy ou a um ambiente de nuvem específico muitas vezes lhe escapam, porque exigem entender toda a arquitetura, e não arquivos isolados.

Permissões de acesso são um problema à parte

Há uma questão séria que raramente aparece em material de marketing: quais permissões um agente precisa para trabalhar bem em segurança? Uma varredura completa da infraestrutura exige privilégios ampliados. E privilégios ampliados são, por si só, um vetor de ataque: se o agente for comprometido ou cometer um erro com consequências, a escala do problema cresce rápido.

A Anthropic recomenda o princípio do menor privilégio e ambientes isolados para tarefas de segurança com agentes. Mas configurar isso direito exige trabalho extra de engenharia e, com prazos apertados, costuma ser deixado de lado. Isso cria exatamente a brecha que o agente deveria fechar.

"Agentes não substituem especialistas em segurança, são uma ferramenta para acelerar o trabalho deles", diz a tese central do estudo da

Anthropic.

O que isso significa

Os agentes de IA já são úteis em tarefas rotineiras de segurança: code review padrão, varredura inicial e preparação de relatórios. Mas dar a eles autonomia sobre infraestrutura crítica ainda é prematuro.

A principal conclusão, que Edgar Sipki também tira: os agentes mudam as ferramentas de uma equipe de segurança, não a sua composição. Manter um humano no circuito continua sendo obrigatório, sobretudo onde o custo de um erro é alto.