Catálogo de segurança para IA no GitHub recebe 231 PRs em seis meses; 157 foram aceitos
Depois da conferência yoPRSTCON, Serguei Gordeichik criou no GitHub uma lista de ferramentas de IA para cibersegurança. Em seis meses, ela recebeu 231 PRs (pull requests, propostas de adicionar ou corrigir um item) de 209 autores. Foram aceitos 157, recusados 65, e nove ficaram em aberto. Cada PR precisa ser lido no código: um scanner "local" pode enviar todo o código-fonte a um modelo externo. Conclusão: ao escolher proteção para agentes, confie no código, não no README.
Processado por IA de Habr AI; editado por Hamidun News
Em maio, na conferência yoPRSTCON, o grupo combinou de reunir em uma única lista as ferramentas de cibersegurança baseadas em IA e os meios de proteção dos próprios modelos e agentes. A ideia era uma "anotação" de 20 minutos, mas virou um projeto com fila de PRs: em seis meses, o repositório awesome-ai-security-tools recebeu 231 pull requests (PR é a proposta de um autor de adicionar ou corrigir um item da lista) de 209 autores. Foram aceitos 157, fechados sem inclusão 65, e nove continuavam abertos em 14 de novembro. Para quem constrói agentes de IA ou escolhe proteção para eles, é um recorte raro: o que está surgindo agora no nicho e como verificar ferramentas de terceiros.
Como a "anotação" virou uma fila de revisão
A conferência aconteceu em 26 de maio, e o primeiro commit saiu em 27 de maio: 99 itens na lista principal e 11 links para coletâneas temáticas. A lista logo se dividiu em duas frentes. Na primeira, a IA ajuda a encontrar vulnerabilidades, analisar alertas de sistemas de defesa, investigar executáveis e reunir informações sobre ameaças. Na segunda, as ferramentas protegem modelos, aplicações e agentes contra injeções, vazamentos e ações indesejadas.
Em julho, um post em redes sociais descreveu a coletânea como um "arsenal aberto com mais de 300 ferramentas que vai deixar todos os CISOs em pânico", e o burburinho aumentou bastante. Em 26 de julho, a lista ficou em décimo lugar no ranking diário de projetos Python do Trendshift e, até 23 de setembro, chegou a 1500 estrelas. Os PRs só aumentaram: 5 em junho, 23 em julho, 40 em agosto, 58 em setembro, 64 em outubro e 41 nas duas primeiras semanas de novembro.
Como verificar as ferramentas e impedir que comandos de terceiros entrem na revisão
Chegavam cada vez mais PRs parecidos: repositório criado no dia anterior, um único commit enorme, README caprichado e promessas altissonantes. O mantenedor não quis recusar com base nesse critério: às vezes é o experimento de ontem, às vezes é um projeto maduro que antes vivia em um repositório privado. Por isso, o código é lido. Assim se descobre que o "scanner" é, na prática, um conjunto de instruções para um agente, ou que uma ferramenta que prometia rodar localmente envia todo o código-fonte a um provedor externo de modelos.
As perguntas da verificação são simples. O que o usuário instala e onde a análise acontece? Quais dados saem da máquina? É preciso conta paga e chave de API? O que acontece se o modelo estiver indisponível? É possível contornar o controle por outra interface? Os testes verificam o próprio mecanismo de proteção ou apenas seu funcionamento com um mock? Os agentes ajudam a ler a implementação e a conferir as promessas com o código, mas a decisão é de uma pessoa: o agente revisor também erra. Candidatos externos são analisados sem executar seu código, instaladores ou scripts de automação em uma máquina de trabalho.
Projetos úteis, mas jovens demais, vão para o WATCHLIST.md. Hoje ele tem 276 repositórios, que são revisitados periodicamente: os que cresceram passam para a lista principal, os abandonados são removidos. PRs com formatação ruim são aceitos com a autoria preservada, e o mantenedor mesmo faz os ajustes.
Uma lição à parte diz respeito à segurança da própria revisão. O agente lê README, comentários e configurações de terceiros, e ali pode haver instruções para executar um comando ou alterar o CI. Por isso, o texto alheio é tratado como dado não confiável. Um exemplo: no PR #69, o autor Lumi Eggcracker propôs incluir no CI uma verificação do seu próprio exemplo de relatório, segundo o seu próprio esquema. O catálogo não precisava disso. O autor do texto não vê má intenção, mas não se sabe o que um agente sem restrições teria feito.
O que os números mostram
Para a análise, foram usados os 377 repositórios da lista principal em 14 de novembro: ferramentas, código de pesquisa, benchmarks e padrões. Desses, 155 foram criados em 2026. A maior concentração de novatos está na análise estática de código com agentes (18 de 24, 75%) e na segurança de agentes (75 de 106, 71%). Dentro desta última, o controle de ações em tempo de execução soma 46 de 64 (72%). Em agentes para pentest, 9 de 28 são novos (32%); em coleta de informações sobre ameaças, 3 de 12 (25%); em testes ofensivos e proteção de LLMs, 14 de 59 (24%); em fuzzing com LLM, 2 de 14 (14%).
Na watchlist, dos 269 repositórios com data de criação clara, 235 (87%) surgiram em 2026, e a mediana entre os 270 acessíveis é de 14 estrelas. Os maiores grupos são: testes ofensivos e benchmarks (45), verificação de skills, MCP e dependências (42), permissões e restrições de ações (35). Esses projetos respondem a perguntas como "quem autorizou isso?", "o que estou instalando junto com este skill?" e "como dar acesso sem deixar a chave no prompt?".
O próprio autor aponta as limitações. A data de criação de um repositório público nem sempre coincide com o início do desenvolvimento. Coletâneas temáticas e modelos publicados apenas no Hugging Face ficam fora da amostra. A tabela mostra onde os projetos surgem, mas não a qualidade dos métodos: ela precisa ser comparada em tarefas comuns.
Conclusão prática: ao escolher proteção para agentes, olhe a lista de verificações e de itens pulados, não a nota A+ no relatório. Confira se o controle não pode ser contornado por outra interface. Não execute instaladores de terceiros em uma máquina de trabalho. E, se você é autor de uma ferramenta assim, envie-a para a lista e leia o feedback: segundo o mantenedor, os autores e seus agentes de fato o leem.
- 27 de out. de 2026IDE da JetBrains para o agente de IA ThinkRail ganha 1.156 estrelas no GitHub em um dia
- 9 de out. de 2026Programador Mikhail Singatullin pede inclusão no registro de software russo de memória para agentes de IA que funciona sem internet
- 29 de out. de 2026Na Zendesk, funcionários criaram cerca de 600 aplicativos no ChatGPT Enterprise
- 26 de out. de 2026Anthropic apresenta publicamente pedido de IPO com avaliação acima de US$ 1,5 trilhão
Perguntas frequentes sobre a notícia
Como a "anotação" virou uma fila de revisão?
A conferência aconteceu em 26 de maio, e o primeiro commit saiu em 27 de maio: 99 itens na lista principal e 11 links para coletâneas temáticas. A lista logo se dividiu em duas frentes. Na primeira, a IA ajuda a encontrar vulnerabilidades, analisar alertas de sistemas de defesa, investigar executáveis e reunir informações sobre ameaças. Na segunda, as ferramentas protegem modelos, aplicações e agentes contra injeções, vazamentos e ações indesejadas.
Como verificar as ferramentas e impedir que comandos de terceiros entrem na revisão?
Chegavam cada vez mais PRs parecidos: repositório criado no dia anterior, um único commit enorme, README caprichado e promessas altissonantes. O mantenedor não quis recusar com base nesse critério: às vezes é o experimento de ontem, às vezes é um projeto maduro que antes vivia em um repositório privado. Por isso, o código é lido.
O que os números mostram?
Para a análise, foram usados os 377 repositórios da lista principal em 14 de novembro: ferramentas, código de pesquisa, benchmarks e padrões. Desses, 155 foram criados em 2026. A maior concentração de novatos está na análise estática de código com agentes (18 de 24, 75%) e na segurança de agentes (75 de 106, 71%). Dentro desta última, o controle de ações em tempo de execução soma 46 de 64 (72%).
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
O essencial da IA — uma vez por semana
Sete histórias que realmente importaram, escolhidas a dedo. Sem ruído nem releases.
Pronto! Verifique seu e-mail para a confirmação.