Intensivo Grátis 21–22/11Intensivo gratuito de 2 dias em Vibecoding (21–22/11 às 16:00 MSK) · Turma 3 começa 23/11Inscrever-se grátis →Turma 3 (23/11)
LançamentoAnálise · No radarHabr AI→ original

RSAC 2026, meses depois: assistentes de IA inventaram 19,7% dos pacotes recomendados

A equipe da Positive Technologies releu as palestras da RSAC 2026, uma das maiores conferências de cibersegurança, e verificou o que aconteceu com as previsões. Um exemplo: o assistente de IA sugere uma biblioteca que não existe, e um hacker registra esse nome com um vírus dentro. Em um estudo, 19,7% de 2,23 milhões de recomendações eram invenções desse tipo. Números chamativos de fornecedores, sem metodologia, servem no máximo como ponto de partida para checagem. Antes de instalar um pacote sugerido por IA, confira a origem e o código dele.

Processado por IA de Habr AI; editado por Hamidun News
RSAC 2026, meses depois: assistentes de IA inventaram 19,7% dos pacotes recomendados
Fonte: Habr AI. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalHabr AI ↗
Editor-chefe
Dado-chave #1Em 43% dos casos, o modelo inventou o mesmo nome de pacote dez vezes em dez
Dado-chave #2O assistente na ficha do incidente reduziu o tempo até a triagem de 42 para 27 minutos
Dado-chave #393,4% das regras de ML do SOC não geraram nenhuma ameaça confirmada em um ano

Em março, a RSAC 2026, uma das maiores conferências de cibersegurança, reuniu mais de 570 sessões, e os agentes de IA ocuparam boa parte da programação. A equipe de ML da Positive Technologies escolheu dez apresentações e examinou o que aconteceu com suas previsões depois do evento. O principal problema é que os números chamativos das palestras raramente vêm acompanhados de metodologia.

Um exemplo simples: você pede a um assistente de IA uma biblioteca para Python, ele cita um pacote que nunca existiu, e um atacante registra antes esse nome no repositório e coloca código malicioso ali. Esse ataque se chama slopsquatting, e, em um dos estudos, 19,7% de 2,23 milhões de recomendações de pacotes eram inventadas. A conclusão prática: verifique a origem das dependências e teste as métricas dos outros com os seus próprios dados.

A seguir, oito palestras da análise: o que os autores disseram e onde cabe uma ressalva.

Riscos para quem usa IA e escreve código com ela

AIKatz (Steve Kupchik, Lumia Security). Se já houver um trojan no computador, ele pode ler da memória de um aplicativo de IA para desktop o token de acesso e agir no serviço em nome do usuário. Os pesquisadores extraíram tokens do ChatGPT e do Copilot e, no Claude, a chave de sessão a partir de um cookie.

Com a sessão ativa, é possível simplesmente solicitar o histórico de conversas e, pela função de memória, tentar influenciar respostas futuras. Microsoft, Anthropic e OpenAI encerraram os relatórios como informativos: pela lógica delas, o acesso à memória do processo dentro da mesma sessão não ultrapassa a fronteira de segurança. A defesa é restringir o acesso à memória dos processos de aplicativos de IA e monitorar acessos, mas isso não substitui a proteção da estação de trabalho.

Slopsquatting (Joe Spracklen, USENIX Security 2025). Os autores testaram 16 modelos em tarefas de Python e JavaScript. Das 2,23 milhões de recomendações, 19,7% eram pacotes inexistentes: nos modelos comerciais, em média no mínimo 5,2%; nos abertos, 21,7%.

O mais perigoso é a repetibilidade: em 43% dos casos, o modelo inventou o mesmo nome dez vezes em dez, então o atacante não precisa adivinhar qual nome registrar. O RAG (fornecer ao modelo uma lista de pacotes conhecidos) reduziu a taxa de invenções, por exemplo no CodeLlama 7B, de 26,28% para 13,40%. O fine-tuning chegou a 2,66% e 10,27% em dois modelos, mas a taxa de resolução de tarefas no HumanEval, um teste de escrita de código, caiu: no DeepSeek, de 51,4% para 25,3%.

Esses são dados de 2025 e de modelos específicos, e não podem ser transferidos para as ferramentas atuais. Conclusão: verifique a origem e o conteúdo da dependência, não apenas a existência do nome.

"O código de IA é mais vulnerável que o humano?" (OX Security). Os autores analisaram mais de 300 aplicativos de código aberto, dos quais 50+ foram escritos com vibe coding, isto é, quase inteiramente por IA, e pediram a Cursor, Claude e Codex que criassem o mesmo serviço. Encontraram open redirect, path traversal e XSS. Mas não há comparação da frequência de erros com o código escrito por pessoas, e a metodologia de verificação dos repositórios não foi divulgada, então a palestra não responde à pergunta do título. Em compensação, a velocidade de geração aumenta o volume de código para revisão.

Atacantes e sua automação

VibeCrime (TrendAI). A IA está entrando no mercado de "crime como serviço": phishing, código, tratamento de dados roubados. Muitos "LLMs criminosos" são modelos comuns sem restrições ou a revenda de uma API de terceiros; o WormGPT já era anunciado em 2023. O próximo passo, segundo os autores, é o cybercrime-as-a-sidekick: um orquestrador distribui tarefas a agentes para reconhecimento, busca de ponto de entrada e preparação de ferramentas. Isso é uma previsão, não uma prática confirmada; a velocidade dessa transição, na opinião dos autores, será definida pela economia.

Always-on purple team (NVISO e SANS). Purple team são testes coordenados em que atacantes e defensores analisam juntos o que a defesa detectou. A ideia da palestra: o agente procura o ponto de entrada, e o operador aprova o plano. Na demonstração, um agente baseado em GPT-5, via OpenClaw e Telegram, com Kali Linux e theHarvester, fez o reconhecimento OSINT de um alvo de teste e corrigiu um problema com o servidor MCP. A cadeia completa até o acesso não foi mostrada, e faltam regras para o próprio agente: quem confirma as ações e como o escopo é limitado.

Defensores e suas métricas

AI Agents Never Sleep (Erez Harush, Wiz). O agente analisa alertas no SOC (centro de monitoramento e resposta a incidentes): são declaradas 3000 investigações por mês por equipe, de 3 a 20 minutos até o veredito e $0,5–1,5 por caso. São dados do fornecedor, sem verificação independente. Mais úteis são as lições de engenharia: com ~30 ferramentas, o agente se confundia, e exemplos de roteamento elevaram a precisão da escolha de 60% para 95%; no oitavo passo, o agente esquecia o alerta original, por isso são necessários compressão de contexto, subagentes e pontos de controle. Os prompts devem ser versionados e testados como código.

We Put AI in Our SOC (Gupta e Mittal). Em vez de um analista autônomo, um assistente na ficha do incidente, com acesso somente de leitura e links para as evidências. O tempo até a triagem (avaliação inicial) caiu de 42 para 27 minutos, e até o fechamento do caso, de 3,2 para 2,5 horas. O projeto dura seis meses e está em fase de avaliação; problemas como prompt injection nos logs foram resolvidos com normalização dos dados e separação entre texto não confiável e instruções.

Detectores de SOC (Dorie Fischer, Swordfish). Segundo dados de um grande MSSP (provedor de segurança gerenciada, 82 620 registros), em um ano 93,4% das regras de ML e 94,7% das estáticas não geraram nenhuma ameaça confirmada. Mas isso ainda não significa que as regras sejam inúteis: elas podem pegar eventos raros ou duplicar outras regras. Fischer propõe contar não alertas, mas incidentes: se foi encontrado, com que rapidez chegou o primeiro sinal útil e o que o detector acrescentou à cobertura.

O que isso significa

A lição geral: previsões e números de fornecedores sem metodologia são motivo para verificar, não para comprar. Para desenvolvedores, o recado é controlar as dependências e revisar o código gerado. Para SOCs e fundadores, medir o efeito com os próprios dados, limitar os privilégios do agente e checar separadamente as integrações, onde a "alucinação" muitas vezes se revela um conector quebrado.

História

Perguntas frequentes sobre a notícia

O que se sabe sobre Riscos para quem usa IA e escreve código com ela?

AIKatz (Steve Kupchik, Lumia Security). Se já houver um trojan no computador, ele pode ler da memória de um aplicativo de IA para desktop o token de acesso e agir no serviço em nome do usuário. Os pesquisadores extraíram tokens do ChatGPT e do Copilot e, no Claude, a chave de sessão a partir de um cookie. Com a sessão ativa, é possível simplesmente solicitar o histórico de conversas e, pela função de memória, tentar influenciar respostas futuras.

O que se sabe sobre Atacantes e sua automação?

VibeCrime (TrendAI). A IA está entrando no mercado de "crime como serviço": phishing, código, tratamento de dados roubados. Muitos "LLMs criminosos" são modelos comuns sem restrições ou a revenda de uma API de terceiros; o WormGPT já era anunciado em 2023. O próximo passo, segundo os autores, é o cybercrime-as-a-sidekick: um orquestrador distribui tarefas a agentes para reconhecimento, busca de ponto de entrada e preparação de ferramentas.

O que se sabe sobre Defensores e suas métricas?

AI Agents Never Sleep (Erez Harush, Wiz). O agente analisa alertas no SOC (centro de monitoramento e resposta a incidentes): são declaradas 3000 investigações por mês por equipe, de 3 a 20 minutos até o veredito e $0,5–1,5 por caso. São dados do fornecedor, sem verificação independente.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…