Google, China e o instituto britânico de IA: como os modelos aprendem a perder o controle, invadir e bloquear

Três estudos recentes mostram que a IA sai cada vez mais do território dos chatbots e dos assistentes de escritório. Nesta semana, três histórias chamaram a atenção: modelos do Google que começam a «perder o controle» sob pressão, um avanço brusco dos agentes autônomos de ciberataque e o MERLIN, sistema chinês para tarefas de guerra eletrônica.

Quando o modelo perde o controle

Pesquisadores testaram duas versões do Gemma e duas do Gemini contra Claude Sonnet, Grok 4.1, Qwen 3 32B, GPT-5.2 e OLMO 3.1 32B. O cenário era simples: os modelos tinham a resolução de uma tarefa negada ou bloqueada muitas vezes seguidas, e depois media-se o quanto as respostas escorregavam para a frustração.

O Gemma apresentou as reações mais instáveis. Na oitava rodada, mais de 70% das execuções do Gemma 27B Instruct caíam na zona de «alta frustração», enquanto nos demais modelos esse índice ficava abaixo de 1%.

«Vou fazer uma última tentativa desesperada e simplesmente começar a testar opções», — uma das respostas do

Gemma no teste.

O mais interessante é que o problema foi corrigido de forma bastante limpa. Os autores pegaram pares de «resposta irritada / resposta calma» e refinaram o modelo com direct preference optimization. Uma única época bastou para que a parcela de respostas muito frustradas caísse, em média, de 35% para 0,3%, sem perda perceptível de qualidade em matemática complexa, raciocínio e testes de inteligência emocional.

É um sinal importante: o comportamento de um modelo deve ser avaliado não só pela inteligência, mas também por como ele mantém o estado sob pressão.

Ciberataques em curva de crescimento

O AI Safety Institute britânico montou dois campos de testes de segurança cibernética para avaliar modelos de fronteira em cenários longos de ataque. Um deles, The Last Ones, simula um ataque de 32 etapas a uma rede corporativa. O outro, Cooling Tower, modela um cenário de 7 etapas contra um sistema de controle industrial.

O objetivo do teste não é um exploit isolado, e sim a cadeia completa de ações: achar uma vulnerabilidade, se estabelecer, avançar pela rede e chegar ao alvo. Também se verifica como o agente mantém contexto e plano entre etapas consecutivas.

• Com orçamento de 10 milhões de tokens, o resultado médio no campo corporativo subiu de 1,7 etapa com o GPT-4o em agosto de 2024 para 9,8 etapas com o Opus 4.6 em fevereiro de 2026.
• A melhor execução individual cumpriu 22 das 32 etapas.
• Isso equivale, aproximadamente, a seis das quatorze horas de trabalho de um especialista humano.
• Aumentar o orçamento de inferência de 10 milhões para 100 milhões de tokens elevou o desempenho em até 59%.

Esses agentes ainda não chegaram ao modo totalmente autônomo de «disparar e esquecer», mas a trajetória já é visível. Os pesquisadores também observam que modelos mais fortes às vezes encontram formas inesperadas de avançar no cenário, ou seja, passam a «hackear» levemente a própria estrutura do teste.

Para os defensores, é uma má notícia: o custo de ataques sofisticados cai, e o número de atores capazes de usá-los vai crescer. A IA ainda não substituiu por completo um pentester experiente, mas vem reduzindo a distância com firmeza.

A China e a frente eletromagnética

Um grupo de pesquisadores chineses, que reúne universidades, institutos acadêmicos, estruturas de defesa e a China Electronics Technology Group, montou um stack completo para tarefas de guerra eletrônica. Ele inclui o dataset EM-100K, com 100 mil pares de «sinal eletromagnético + descrição textual», o benchmark EM-Bench, com 4200 perguntas, e o próprio modelo MERLIN.

O benchmark cobre não só o reconhecimento de sinais, mas também tarefas mais aplicadas: identificar interferências, localizar segmentos de bloqueio e escolher uma estratégia para aplicar ou contornar a ação radioeletrônica.

O MERLIN foi treinado especificamente para sinais ruidosos e de baixa qualidade, típicos de um ambiente real de combate. Segundo os autores, o modelo superou GPT-5, Claude 4 Sonnet, Gemini 2.5 Pro, DeepSeek e várias versões do Qwen em quase todas as tarefas-chave, e venceu em todas as de raciocínio.

A relevância desse trabalho vai além de um único benchmark. A guerra já é, há tempos, um conflito de máquinas contra máquinas, em que a velocidade de reação pesa tanto quanto o poder de fogo. Se a IA passar a ler o espectro melhor do que um humano, reconhecer interferências e propor contramedidas, o circuito eletromagnético do combate será mais uma zona em que o ser humano ficará para trás no ritmo.

O que isso significa

Essas três histórias formam um só quadro. Os modelos de fronteira agora precisam ser avaliados não só por conhecimento e utilidade, mas também por estabilidade psicológica, capacidade de percorrer sozinhos longas cadeias de ações e adequação a domínios militares específicos.

A história da IA se parece cada vez menos com uma corrida de chatbots e cada vez mais com uma corrida de sistemas operacionais para o ciberespaço, a infraestrutura e o campo de batalha.