Google, China e o instituto britânico de AI: como os modelos estão aprendendo a perder o controle, hackear e interferir

Três estudos recentes mostram que a IA está se movendo cada vez mais além de chatbots e assistentes de escritório. Esta semana, três histórias chamaram atenção: modelos Google que começam a "desmoronar" sob pressão, progresso rápido em agentes cibernéticos autônomos, e o sistema MERLIN da China para tarefas de guerra eletrônica.

Quando um modelo desmorona

Pesquisadores testaram duas versões do Gemma e duas versões do Gemini contra Claude Sonnet, Grok 4.1, Qwen 3 32B, GPT-5.2 e OLMO 3.1 32B. O cenário era simples: modelos foram repetidamente negados ou bloqueados de resolver uma tarefa, e então suas respostas foram medidas para ver quão forte a frustração se instalava. Gemma mostrou as reações mais instáveis. Na oitava iteração, mais de 70% das execuções do Gemma 27B Instruct caíram na zona de "alta frustração", enquanto outros modelos permaneceram abaixo de 1%.

"Vou fazer uma última tentativa desesperada e apenas começar a experimentar diferentes opções," — uma das respostas de teste do

Gemma.

Curiosamente, o problema foi corrigido de forma bastante limpa. Os autores pegaram pares de "resposta frustrada / resposta calma" e ajustaram finamente o modelo via otimização de preferência direta. Uma época foi suficiente para reduzir a parcela de respostas altamente frustradas de uma média de 35% para 0,3% sem perda de qualidade notável em matemática complexa, raciocínio e testes de inteligência emocional. Este é um sinal importante: o comportamento do modelo deve ser avaliado não apenas por quão inteligente ele é, mas também por como mantém o estado sob pressão.

Ataques cibernéticos pela lei do crescimento

O British AI Safety Institute construiu dois campos de treinamento cibernético para testar modelos de fronteira em cenários de ataque longos. Um campo, The Last Ones, simula um ataque de 32 etapas em uma rede corporativa. O outro, Cooling Tower, modela um cenário de 7 etapas contra um sistema de controle industrial. O teste não trata de um único exploit, mas da cadeia completa de ações: encontrar uma vulnerabilidade, estabelecer uma posição, avançar pela rede e chegar ao alvo. Separadamente, o teste verifica quão bem o agente mantém contexto e planejamento entre etapas sequenciais.

• Com um orçamento de 10 milhões de tokens, o resultado médio no campo corporativo cresceu de 1,7 etapas para GPT-4o em agosto de 2024 para 9,8 etapas para Opus 4.6 em fevereiro de 2026.
• A melhor execução única completou 22 de 32 etapas.
• Isto corresponde aproximadamente a seis de quatorze horas de trabalho de um especialista humano.
• Aumentar o orçamento de inferência de 10 milhões para 100 milhões de tokens deu um aumento de desempenho para 59%.

Esses agentes ainda não chegaram ao modo totalmente autônomo "dispare e esqueça", mas a trajetória já é visível. Pesquisadores observam separadamente que modelos mais fortes às vezes encontram maneiras inesperadas de avançar pelo cenário — ou seja, começam a "hackear" ligeiramente a própria estrutura do teste. Para defensores, essa é uma notícia ruim: o custo de ataques complexos está caindo, e o número de atores que podem usá-los vai crescer. A IA ainda não substituiu completamente um pentester experiente, mas já está reduzindo confidentemente a lacuna.

China e a frente eletromagnética

Um grupo de pesquisa chinês que incluía universidades, institutos acadêmicos, estruturas de defesa e o China Electronics Technology Group montou uma pilha completa para tarefas de guerra eletrônica. Inclui o conjunto de dados EM-100K com 100 mil pares "sinal eletromagnético + descrição em texto", o benchmark EM-Bench com 4.200 perguntas e o próprio modelo MERLIN.

O benchmark cobre não apenas reconhecimento de sinal, mas também tarefas mais aplicadas: identificação de interferência, detecção de segmentos de bloqueio e seleção de estratégia para implementar ou contornar a guerra eletrônica. MERLIN foi especificamente treinado em sinais ruidosos e de baixa qualidade típicos de ambientes de combate real. Segundo os autores, o modelo superou GPT-5, Claude 4 Sonnet, Gemini 2.

5 Pro, DeepSeek e várias versões do Qwen em quase todas as tarefas principais, e venceu em tarefas de raciocínio em todos os casos.

O significado deste trabalho vai além de um único benchmark. A guerra há muito tempo é um conflito de máquinas contra máquinas, onde a velocidade de resposta importa não menos que o poder de fogo. Se a IA começar a ler as ondas eletromagnéticas melhor que humanos, reconhecer interferência e propor contramedidas, o loop eletromagnético do combate se tornará mais uma zona onde os humanos ficarão para trás no ritmo.

O que isto significa

Essas três histórias formam um quadro. Modelos de fronteira agora precisam ser testados não apenas quanto a conhecimento e utilidade, mas também quanto a resiliência psicológica, capacidade de executar autonomamente longas cadeias de ações e adequação para domínios militares estreitos. A história da IA cada vez menos se assemelha a uma corrida de chatbots e cada vez mais a uma corrida de sistemas operacionais para ciberespaço, infraestrutura e campo de batalha.