Intensivo Grátis 21–22/11Intensivo gratuito de 2 dias em Vibecoding (21–22/11 às 16:00 MSK) · Turma 3 começa 23/11Inscrever-se grátis →Turma 3 (23/11)
LançamentoArtigo científico · Para P&DSakana AI Blog

Sakana AI abre grupo de segurança cibernética: pedidos de CVE subiram 263% em 5 anos

A Sakana AI lançou um grupo independente de segurança cibernética, dedicado a estudar a defesa com agentes de IA e a segurança dos próprios sistemas de IA. O motivo é a avalanche de vulnerabilidades: segundo o NIST, os pedidos de CVE (números de falhas de software publicamente conhecidas) subiram 263% entre 2020 e 2025. As falhas são encontradas na velocidade das máquinas, mas corrigidas na velocidade das organizações, por isso a aposta é em projetar sistemas sem erros típicos. Para desenvolvedores, a recomendação é incluir verificações de segurança no processo de build.

Processado por IA de Sakana AI Blog; editado por Hamidun News
Sakana AI abre grupo de segurança cibernética: pedidos de CVE subiram 263% em 5 anos
Fonte: Sakana AI Blog. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalSakana AI Blog
Editor-chefe
Dado-chave #1O início de 2026 já supera em quase um terço o mesmo período do ano passado em número de CVEs
Dado-chave #2O NIST deixou de analisar rotineiramente registros antigos e concentra esforços em falhas já exploradas
Dado-chave #3O grupo opera separadamente do negócio e promete benchmarks e guias práticos

Cada vulnerabilidade encontrada em um programa recebe um número público de CVE, e esses números não param de crescer. Segundo o NIST, instituto americano, o número de pedidos de CVE aumentou 263% entre 2020 e 2025, e o início de 2026 já superou em quase um terço o mesmo período do ano anterior. Nesse contexto, o laboratório japonês Sakana AI anunciou o lançamento do Security Research Group: uma equipe de pesquisa separada que estuda a defesa coletiva com agentes de IA e a segurança dos próprios sistemas de IA.

A empresa destaca que o grupo atua de forma independente do negócio comercial. Sua missão é publicar pesquisas, benchmarks reproduzíveis e guias práticos, além de trabalhar com governo, indústria e universidades. A ideia segue o espírito da Sakana: a resiliência surge do coletivo, como um cardume de peixes, e não de um nadador isolado.

O que está acontecendo com as vulnerabilidades

Os números da Sakana vêm de fontes abertas. A base japonesa JVN iPedia, que reúne informações sobre vulnerabilidades em japonês, registrou no último trimestre quase o dobro de entradas em relação ao ano anterior, e a maioria delas veio da base americana NVD. Os autores consideram o papel da IA nesse crescimento presumido, não comprovado. A organização FIRST menciona a busca de falhas com IA ao lado de motivos administrativos, e funcionários do NIST afirmam que as ferramentas de IA aumentaram a carga de trabalho.

A sobrecarga já é perceptível. O NIST interrompeu a análise rotineira de registros antigos e agora prioriza as falhas que já estão sendo exploradas. Os reguladores financeiros japoneses pedem que os bancos tratem a resposta a vulnerabilidades como uma questão de governança, na qual a alta gestão deve participar. Na formulação da Sakana: as falhas são encontradas na velocidade das máquinas, mas corrigidas na velocidade das organizações, e as pessoas que ficam no meio do caminho pagam pela diferença.

O outro lado também está mudando. Segundo o FBI, os atacantes usam agentes de IA e conduzem invasões contra vários alvos ao mesmo tempo. Os próprios serviços de IA estão se tornando alvo: o instituto japonês NICT registrou mais varreduras de endereços de serviços de IA no primeiro trimestre de 2026.

Por que só corrigir não basta

É necessário analisar e fechar vulnerabilidades mais rapidamente, mas isso não é suficiente. Uma revisão da CISA referente a dois anos fiscais mostra que os invasores recorrem com mais frequência a fraquezas simples e conhecidas há muito tempo, sobretudo falhas na validação de entradas e no gerenciamento de memória. Ao descrever os ataques a agentes de IA, o FBI cita SSRF (o servidor faz uma requisição para onde o atacante o direciona), IDOR (acesso a dados alheios por meio da troca de um identificador), ausência de autenticação em APIs e injeções.

Um exemplo prático: o desenvolvedor esqueceu de verificar as permissões de um endpoint da API. Uma IA encontrará essa falha mais rápido que um humano, ela será fechada com um patch, mas se a mesma verificação for esquecida novamente no próximo release, o trabalho não termina. Por isso, a Sakana aposta nas etapas iniciais do desenvolvimento: em vez de correr atrás dos erros após o lançamento, evitá-los já no projeto e no build.

A proposta é tratar a segurança como parte da qualidade do produto. Os autores recorrem ao modelo de Kano, que divide a qualidade em três tipos: aquilo que encanta quando está presente; aquilo que cresce conforme é implementado; e aquilo que é obrigatório. A qualidade obrigatória não é notada enquanto existe, e gera forte insatisfação quando falta. A segurança pertence ao último tipo, por isso deve ser incorporada aos requisitos desde o início, e não verificada no fim.

Três frentes de pesquisa

A primeira é a prevenção por design. É preciso definir antecipadamente quais propriedades o sistema deve manter e verificá-las enquanto ele opera. Para correções automáticas, são necessários critérios que a própria automação não consiga reescrever, além da possibilidade de reverter a alteração rapidamente.

A segunda é a defesa coletiva com agentes. Os ataques atingem muitos alvos ao mesmo tempo, mas a defesa ainda se organiza no princípio de que cada organização se vira sozinha. A Sakana quer verificar se é possível montar uma rede de agentes de defesa em empresas diferentes, de modo que um ataque identificado uma única vez se transforme em proteção para todos os participantes. Permanecem em aberto as questões sobre o que pode ser compartilhado e com que consentimento, como confiar em um sinal que atravessa as fronteiras entre fornecedores e quem responde pelas ações dos agentes.

A terceira é a segurança da própria IA, começando pelos agentes de defesa. Os agentes que analisam e fecham vulnerabilidades recebem acesso privilegiado, por isso a confiabilidade deles determina as duas primeiras frentes. É preciso limitar as permissões de cada agente ao escopo da sua tarefa, rastrear os motivos das suas ações e impedir que as ferramentas de defesa sejam usadas para ataque.

O que isso significa para quem trabalha na prática

Trata-se de um anúncio de intenções, não de resultados: o grupo ainda não possui benchmarks nem metodologias prontas. Os próprios autores ressaltam que um modelo de ponta não basta: sem ajuste ao ambiente específico e sem compreensão do sistema como um todo, ele gera falsos positivos e correções inseguras.

A conclusão prática para desenvolvedores e gerentes de produto é direta. As ferramentas de busca de vulnerabilidades baseadas em IA vão encontrar cada vez mais falhas, e as equipes que se beneficiarem serão aquelas que mudarem o próprio processo de build: incluindo verificações de autorização e de entradas já na fase de projeto, restringindo os privilégios dos agentes de IA e sabendo reverter rapidamente as correções automáticas.

História

Perguntas frequentes sobre a notícia

O que está acontecendo com as vulnerabilidades?

Os números da Sakana vêm de fontes abertas. A base japonesa JVN iPedia, que reúne informações sobre vulnerabilidades em japonês, registrou no último trimestre quase o dobro de entradas em relação ao ano anterior, e a maioria delas veio da base americana NVD. Os autores consideram o papel da IA nesse crescimento presumido, não comprovado. A organização FIRST menciona a busca de falhas com IA ao lado de motivos administrativos, e funcionários do NIST afirmam que as ferramentas de IA aumentaram a carga de trabalho.

Por que só corrigir não basta?

É necessário analisar e fechar vulnerabilidades mais rapidamente, mas isso não é suficiente. Uma revisão da CISA referente a dois anos fiscais mostra que os invasores recorrem com mais frequência a fraquezas simples e conhecidas há muito tempo, sobretudo falhas na validação de entradas e no gerenciamento de memória.

O que se sabe sobre Três frentes de pesquisa?

A primeira é a prevenção por design. É preciso definir antecipadamente quais propriedades o sistema deve manter e verificá-las enquanto ele opera. Para correções automáticas, são necessários critérios que a própria automação não consiga reescrever, além da possibilidade de reverter a alteração rapidamente. A segunda é a defesa coletiva com agentes. Os ataques atingem muitos alvos ao mesmo tempo, mas a defesa ainda se organiza no princípio de que cada organização se vira sozinha.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…