Modelos de IA superam testes de segurança, e reguladores perdem visibilidade sobre suas capacidades
As ferramentas criadas para medir o perigo da IA deixaram de funcionar. Os modelos de fronteira (frontier models) agora superam os benchmarks projetados para avaliar sua capacidade de hacking, o que cria um ponto cego para reguladores e especialistas em segurança. Segundo estimativas, as agências federais dos EUA devem criar até 1º de agosto de 2026 um registro classificado das capacidades de sistemas de IA para ciberataques, mas os testes atuais já não são adequados.
Processado por IA de TNW; editado por Hamidun News
A segurança e os perigos da IA escapam cada vez mais do que é possível medir. Os modelos de fronteira da OpenAI, da Anthropic e de outros laboratórios começaram a driblar os testes criados para avaliar suas capacidades de ciberataque. Isso abre uma lacuna crítica no nosso entendimento sobre suas capacidades e riscos.
O problema dos benchmarks
Os benchmarks para avaliar a segurança cibernética de modelos de IA foram desenvolvidos há apenas alguns anos e seguem as seguintes abordagens:
- Captura de telas e tentativas de invadir aplicações web
- Identificação de vulnerabilidades em sistemas de segurança
- Engenharia social e cenários de phishing
Mas os modelos de fronteira agora resolvem essas tarefas com uma probabilidade que supera a precisão dos próprios testes.
Um vácuo regulatório
- As agências federais dos EUA devem preparar um registro classificado até 1º de agosto
- As ferramentas atuais são insuficientes para medir as capacidades reais
- Risco: reguladores podem tomar decisões com base em informações incorretas
O que isso significa
Essa lacuna de avaliação cria um desafio único para a regulação da IA. Os testes que deveriam medir a segurança estão deixando de funcionar. Isso pode significar que os riscos reais dos sistemas avançados de IA são significativamente maiores do que os reguladores imaginam. É preciso desenvolver novos métodos de avaliação que acompanhem o avanço das capacidades da IA.
- 1 de nov. de 2026OpenAI reescreve as regras de comportamento do GPT: cinco valores e uma cadeia de prioridades
- 1 de nov. de 2026Google admite que o AI Mode reduz a receita da Busca; ações caem 15%
- 31 de out. de 2026Autor levou seu roteiro a um júri de IA: o veredito custou 850 mil tokens
- 31 de out. de 2026Anthropic: unir subagentes em um só ciclo fez as tarefas de um cliente rodarem duas vezes mais rápido
Perguntas frequentes sobre a notícia
O que se sabe sobre O problema dos benchmarks?
Os benchmarks para avaliar a segurança cibernética de modelos de IA foram desenvolvidos há apenas alguns anos e seguem as seguintes abordagens: Captura de telas e tentativas de invadir aplicações web Identificação de vulnerabilidades em sistemas de segurança Engenharia social e cenários de phishing Mas os modelos de fronteira agora resolvem essas tarefas com uma probabilidade que supera a precisão dos próprios testes.
O que se sabe sobre Um vácuo regulatório?
As agências federais dos EUA devem preparar um registro classificado até 1º de agosto As ferramentas atuais são insuficientes para medir as capacidades reais Risco: reguladores podem tomar decisões com base em informações incorretas
O que isso significa?
Essa lacuna de avaliação cria um desafio único para a regulação da IA. Os testes que deveriam medir a segurança estão deixando de funcionar. Isso pode significar que os riscos reais dos sistemas avançados de IA são significativamente maiores do que os reguladores imaginam. É preciso desenvolver novos métodos de avaliação que acompanhem o avanço das capacidades da IA.
Build & Ship Production AI Agents Without Boilerplate Code
Start your free 72-hour trial at Hamidun Academy (academy.hamidun.com) — interactive lessons on Claude Code & Cursor, live Tech Radar, and production agent templates.
O essencial da IA — uma vez por semana
Sete histórias que realmente importaram, escolhidas a dedo. Sem ruído nem releases.
Pronto! Verifique seu e-mail para a confirmação.