Google, China y el instituto británico de IA: cómo los modelos aprenden a desquiciarse, hackear e interferir

Tres estudios recientes muestran que la IA sale cada vez más del terreno de los chatbots y los asistentes de oficina. Esta semana llamaron la atención tres historias: modelos de Google que empiezan a «desquiciarse» bajo presión, un avance brusco de los agentes autónomos de ciberataque y MERLIN, un sistema chino para tareas de guerra electrónica.

Cuando un modelo se desquicia

Los investigadores probaron dos versiones de Gemma y dos de Gemini frente a Claude Sonnet, Grok 4.1, Qwen 3 32B, GPT-5.2 y OLMO 3.1 32B. El escenario era sencillo: a los modelos se les denegaba o bloqueaba la resolución de una tarea muchas veces seguidas, y después se medía hasta qué punto sus respuestas derivaban en frustración.

Gemma mostró las reacciones más inestables. En el octavo turno, más del 70% de las ejecuciones de Gemma 27B Instruct entraban en la zona de «alta frustración», mientras que en el resto de los modelos esa cifra seguía por debajo del 1%.

«Haré un último intento desesperado y empezaré a probar opciones al azar», — una de las respuestas de

Gemma en la prueba.

Lo más interesante es que el problema se corrigió con bastante limpieza. Los autores tomaron pares de «respuesta irritada / respuesta tranquila» y reajustaron el modelo con direct preference optimization. Una sola época bastó para que la proporción de respuestas muy frustradas cayera, de media, del 35% al 0,3%, sin pérdida apreciable de calidad en matemáticas complejas, razonamiento y pruebas de inteligencia emocional.

Es una señal importante: el comportamiento de un modelo debe evaluarse no solo por lo inteligente que es, sino por cómo mantiene su estado bajo presión.

Ciberataques con ley de crecimiento

El AI Safety Institute británico construyó dos campos de pruebas de ciberseguridad para evaluar modelos de frontera en escenarios largos de ataque. Uno, The Last Ones, simula un ataque de 32 pasos a una red corporativa. El otro, Cooling Tower, modela un escenario de 7 pasos contra un sistema de control industrial.

El sentido de la prueba no es un exploit aislado, sino la cadena completa de acciones: encontrar una vulnerabilidad, afianzarse, avanzar por la red y llegar al objetivo. Además se comprueba cómo el agente mantiene el contexto y el plan entre pasos consecutivos.

• Con un presupuesto de 10 millones de tokens, el resultado medio en el campo corporativo pasó de 1,7 pasos con GPT-4o en agosto de 2024 a 9,8 pasos con Opus 4.6 en febrero de 2026.
• La mejor ejecución individual completó 22 de los 32 pasos.
• Eso equivale, aproximadamente, a seis de las catorce horas de trabajo de un experto humano.
• Aumentar el presupuesto de inferencia de 10 a 100 millones de tokens mejoró el rendimiento hasta un 59%.

Estos agentes aún no han llegado al modo totalmente autónomo de «lanzar y olvidar», pero la trayectoria ya es visible. Los investigadores señalan además que los modelos más potentes a veces encuentran formas inesperadas de avanzar en el escenario, es decir, empiezan a «hackear» ligeramente la propia estructura de la prueba.

Para los defensores es una mala noticia: el coste de los ataques sofisticados baja y crecerá el número de actores capaces de usarlos. La IA aún no ha sustituido por completo a un pentester experimentado, pero reduce la brecha con paso firme.

China y el frente electromagnético

Un grupo de investigadores chinos, que incluye universidades, institutos académicos, entidades de defensa y China Electronics Technology Group, ha reunido un stack completo para tareas de guerra electrónica. Incluye el dataset EM-100K, con 100 000 pares de «señal electromagnética + descripción textual», el benchmark EM-Bench, con 4200 preguntas, y el propio modelo MERLIN.

El benchmark no cubre solo el reconocimiento de señales, sino también tareas más aplicadas: identificar interferencias, localizar segmentos de inhibición y elegir una estrategia para aplicar o eludir la acción radioelectrónica.

MERLIN se entrenó específicamente para señales ruidosas y de baja calidad, propias de un entorno de combate real. Según los autores, el modelo superó a GPT-5, Claude 4 Sonnet, Gemini 2.5 Pro, DeepSeek y varias versiones de Qwen en casi todas las tareas clave, y en las de razonamiento ganó en todas.

La importancia de este trabajo va más allá de un benchmark. La guerra es desde hace tiempo un conflicto de máquinas contra máquinas, donde la velocidad de reacción pesa tanto como la potencia de fuego. Si la IA empieza a leer el espectro mejor que una persona, a reconocer interferencias y a proponer contramedidas, el circuito electromagnético del combate será otra zona en la que el ser humano irá por detrás en ritmo.

Qué significa

Estas tres historias forman un único cuadro. Los modelos de frontera ya no se deben comprobar solo por sus conocimientos y su utilidad, sino también por su estabilidad psicológica, su capacidad para recorrer de forma autónoma largas cadenas de acciones y su idoneidad para dominios militares específicos.

La historia de la IA se parece cada vez menos a una carrera de chatbots y cada vez más a una carrera de sistemas operativos para el ciberespacio, la infraestructura y el campo de batalla.