Anthropic lança OSS Scanner gratuito após 29 000 vulnerabilidades encontradas por IA

A Anthropic lança o OSS Scanner, um serviço voluntário em que os modelos mais fortes da empresa, incluindo o Claude Mythos, escaneiam periodicamente projetos open source em busca de vulnerabilidades. Para os projetos, o serviço é gratuito. O contexto é este: nos últimos seis meses, dentro do Project Glasswing, os modelos encontraram mais de 29 000 candidatos a vulnerabilidade em projetos de software importantes. A equipe conseguiu verificar e triar manualmente cerca de 6 000. O resto esbarra na falta de pessoas capazes de confirmar as descobertas.

Por que foi preciso um serviço à parte

Em um ano e meio, o quadro mudou radicalmente. No benchmark acadêmico CyberGym, a fatia de vulnerabilidades encontradas por modelos de linguagem passou de menos de 20% no início do ano passado para mais de 85% neste ano. Mantenedores que antes recebiam das LLMs sobretudo lixo agora recebem bugs de qualidade.

Em certo momento, os próprios mantenedores passaram a pedir à Anthropic tudo o que ela tivesse, mesmo sem verificação, junto com os patches propostos. Quase 5 000 desses relatórios já foram enviados diretamente. A lógica é clara: exploits agora são escritos em minutos, e quem encontra e fecha a brecha mais rápido leva vantagem. Os atacantes procuram os mesmos pontos fracos.

A divulgação coordenada (CVD) com verificação manual continua valendo. Ela segue como o caminho principal para projetos sem recursos para triar relatórios por conta própria. O OSS Scanner acrescenta a ela uma via rápida para quem está disposto a receber as descobertas de imediato.

Como o serviço funciona

A ideia se inspira no Google OSS-Fuzz, que busca vulnerabilidades em código aberto com o uso de fuzzers. O OSS Scanner se diferencia do Claude Security, produto corporativo voltado à proteção de sistemas de empresas, por oferecer auditoria gratuita para open source. A ressalva principal: os resultados são gerados inteiramente pelo modelo, sem verificação nem triagem humana. Isso torna os scans mais rápidos e frequentes, mas admite relatórios errados ou inválidos.

• Modelos: os mais fortes da Anthropic, incluindo o Claude Mythos.
• Formato de participação: opt-in, com scans periódicos.
• Conteúdo do relatório: código de reprodução autossuficiente, explicação da vulnerabilidade, bisect até o commit em que o bug surgiu (quando possível) e um patch candidato.
• Piloto: algumas semanas em dezenas de projetos, com centenas de relatórios, entre eles cadeias de vulnerabilidades que levam à execução remota de código sem autenticação.
• Custo para os projetos: gratuito.

O que dizem os mantenedores

Os depoimentos dos participantes do piloto confirmam a qualidade. Noah Misch, do PostgreSQL, observa que uma fatia incomumente alta das descobertas apontava defeitos reais, e que parte das correções pode ser aplicada quase sem ajustes. O fast-track permitiu corrigir problemas recentes antes do lançamento da versão GA. Anton Arapov, da OpenSSL Corporation, lembra que os primeiros relatórios de IA, de um ano e meio atrás, eram terríveis. Na avaliação dele, os relatórios da Anthropic, incluindo a saída bruta do modelo, não são piores que os humanos e às vezes são melhores, sobretudo quando acompanhados de um exploit funcional que pode ser testado na hora.

No wolfSSL, a estatística é esta: de 74 relatórios, todos foram válidos, exceto dois, e cinco viraram CVEs. Eddie Kohler, do HotCRP, elogiou a compreensão do modelo complexo de permissões de acesso e a priorização dos bugs.

Para uma verificação independente, a Anthropic pediu a especialistas em pentest, que normalmente revisam descobertas para CVD, que avaliassem 97 vulnerabilidades críticas e de alta gravidade em 48 projetos. O número final se perde no texto disponível, que é interrompido antes dele, então o mais seguro é se basear nos depoimentos dos participantes do piloto e nas estatísticas do wolfSSL.

O que os mantenedores devem fazer

Projetos com equipe ativa e um processo de recebimento de relatórios bem estabelecido têm bons motivos para aderir. Relatórios com código de reprodução são verificados rapidamente. Mas é preciso decidir de antemão quem vai analisar o fluxo e como filtrar falsos positivos, porque não há verificação humana do lado da Anthropic. Projetos pequenos, sem recursos para triagem, fazem melhor em ficar no CVD clássico, com verificação manual. Para todos os demais, vale partir do princípio de que os atacantes têm acesso às mesmas capacidades dos modelos, e por isso o ritmo das correções passou a determinar a segurança.