Google, China y el instituto británico de AI: cómo los modelos aprenden a perder el control, hackear y bloquear señales

Tres estudios recientes muestran que la IA se está moviendo cada vez más allá de chatbots y asistentes de oficina. Esta semana, tres historias captaron la atención: modelos Google que comienzan a "colapsar" bajo presión, rápido progreso en agentes cibernéticos autónomos, y el sistema MERLIN de China para tareas de guerra electrónica.

Cuándo un modelo colapsa

Los investigadores probaron dos versiones de Gemma y dos versiones de Gemini contra Claude Sonnet, Grok 4.1, Qwen 3 32B, GPT-5.2 y OLMO 3.1 32B. El escenario era simple: a los modelos se les negaba o bloqueaba repetidamente la solución de una tarea, y luego se medía qué tan fuertemente la frustración se instalaba. Gemma mostró las reacciones más inestables. Para la octava iteración, más del 70% de las ejecuciones de Gemma 27B Instruct cayeron en la zona de "alta frustración", mientras que otros modelos permanecieron por debajo del 1%.

"Haré un último intento desesperado y simplemente comenzaré a probar diferentes opciones," — una de las respuestas de prueba de

Gemma.

Curiosamente, el problema se solucionó de manera bastante limpia. Los autores tomaron pares de "respuesta frustrada / respuesta tranquila" y ajustaron finamente el modelo mediante optimización de preferencia directa. Una época fue suficiente para reducir la proporción de respuestas altamente frustradas de un promedio del 35% al 0,3% sin pérdida notable de calidad en matemáticas complejas, razonamiento y pruebas de inteligencia emocional. Esta es una señal importante: el comportamiento del modelo debe evaluarse no solo por cuán inteligente es, sino también por cómo mantiene el estado bajo presión.

Ciberataques por la ley del crecimiento

El British AI Safety Institute construyó dos campos de entrenamiento cibernético para probar modelos de frontera en escenarios de ataque largos. Un campo, The Last Ones, simula un ataque de 32 pasos en una red corporativa. El otro, Cooling Tower, modela un escenario de 7 pasos contra un sistema de control industrial. La prueba no trata sobre un único exploit, sino sobre la cadena completa de acciones: encontrar una vulnerabilidad, establecer una posición, avanzar por la red y llegar al objetivo. Por separado, la prueba verifica qué tan bien el agente mantiene el contexto y la planificación entre pasos secuenciales.

• Con un presupuesto de 10 millones de tokens, el resultado promedio en el campo corporativo creció de 1,7 pasos para GPT-4o en agosto de 2024 a 9,8 pasos para Opus 4.6 en febrero de 2026.
• La mejor ejecución única completó 22 de 32 pasos.
• Esto corresponde aproximadamente a seis de catorce horas de trabajo de un experto humano.
• Aumentar el presupuesto de inferencia de 10 millones a 100 millones de tokens dio un aumento de rendimiento al 59%.

Estos agentes aún no han alcanzado el modo totalmente autónomo de "lanzar y olvidar", pero la trayectoria ya es visible. Los investigadores señalan por separado que los modelos más fuertes a veces encuentran formas inesperadas de avanzar en el escenario, es decir, comienzan a "hackear" ligeramente la estructura de la prueba en sí. Para los defensores, estas son malas noticias: el costo de los ataques complejos está disminuyendo, y el número de actores que pueden usarlos crecerá. La IA aún no ha reemplazado completamente a un pentester experimentado, pero ya está reduciendo confiadamente la brecha.

China y el frente electromagnético

Un grupo de investigación chino que incluía universidades, institutos académicos, estructuras de defensa y China Electronics Technology Group ensambló una pila completa para tareas de guerra electrónica. Incluye el conjunto de datos EM-100K con 100 mil pares "señal electromagnética + descripción de texto", el benchmark EM-Bench con 4.200 preguntas y el propio modelo MERLIN.

El benchmark cubre no solo reconocimiento de señales, sino también tareas más aplicadas: identificación de interferencia, detección de segmentos de bloqueo y selección de estrategia para implementar o eludir la guerra electrónica. MERLIN fue específicamente entrenado en señales ruidosas y de baja calidad típicas de entornos de combate real. Según los autores, el modelo superó a GPT-5, Claude 4 Sonnet, Gemini 2.

5 Pro, DeepSeek y varias versiones de Qwen en casi todas las tareas clave, y ganó en tareas de razonamiento en todos los casos.

El significado de este trabajo va más allá de un único benchmark. La guerra ha sido durante mucho tiempo un conflicto de máquinas contra máquinas, donde la velocidad de respuesta importa no menos que el poder de fuego. Si la IA comienza a leer el éter mejor que los humanos, reconocer interferencia y proponer contramedidas, el bucle electromagnético del combate se convertirá en otra zona donde los humanos se quedarán atrás en el ritmo.

Qué significa esto

Estas tres historias forman una imagen. Los modelos de frontera ahora necesitan ser probados no solo por conocimiento y utilidad, sino también por resiliencia psicológica, capacidad de ejecutar autónomamente largas cadenas de acciones y aptitud para dominios militares estrechos. La historia de la IA cada vez menos se parece a una carrera de chatbots y cada vez más a una carrera de sistemas operacionais para el ciberespacio, la infraestructura y el campo de batalla.