Anthropic advierte: los modelos de IA pequeños permitirán gusanos autorreplicantes a principios de 2027

Anthropic ha advertido de que el avance de los modelos de IA pequeños puede crear, ya a principios del próximo año, las condiciones para una propagación prácticamente incontrolable de gusanos de IA. Así se llama a los programas que se multiplican por su cuenta y saltan a nuevos dispositivos sin intervención humana. Según la compañía, detener esa propagación será extremadamente difícil. Entre los posibles objetivos menciona servidores, televisores y electrodomésticos. El horizonte del que se habla se mide en meses, no en años.

Por qué preocupan precisamente los modelos pequeños

Un gusano clásico explota una vulnerabilidad conocida de antemano. Su autor tiene que saber con antelación qué debe atacar y escribir código nuevo para cada plataforma. Un gusano de IA, si se sigue la lógica de la advertencia de Anthropic, podría adaptarse sobre la marcha: estudiar un dispositivo desconocido, elegir la forma de penetrar en él y seguir avanzando.

Los modelos grandes resultan poco prácticos para esta tarea. Necesitan GPU potentes, mucha memoria y, por lo general, acceso a una API en la nube que el proveedor puede rastrear y cortar. Un modelo compacto funciona de otra manera. Cabe en hardware modesto, se ejecuta en local y no deja rastro en la infraestructura ajena. Por eso el progreso en la miniaturización de modelos es a la vez un logro tecnológico y un factor de riesgo.

Qué se sabe y qué no

El resumen público de la advertencia ofrece pocos detalles. Esto es lo que se puede afirmar con los datos disponibles:

• Autor de la advertencia: Anthropic, desarrolladora de la familia de modelos Claude.
• Plazo: las condiciones para una propagación masiva pueden darse a principios del próximo año.
• Mecanismo: multiplicación autónoma e infección de nuevos tipos de dispositivos sin participación humana.
• Posibles objetivos: servidores, televisores, electrodomésticos.
• Valoración de la defensa: bloquear la propagación será extremadamente difícil.
• No se ha revelado: modelos concretos, tamaños en parámetros, metodología de evaluación ni probabilidad del escenario.

Todavía no se sabe si el pronóstico se apoya en experimentos de laboratorio, en un análisis de amenazas o en simulaciones. Sin un informe técnico, es difícil distinguir una evaluación real del riesgo de un exceso de cautela.

Ya ocurrió antes, aunque a otra escala

La idea no es nueva. En 1988, el gusano Morris dejó fuera de servicio a unas seis mil máquinas en una internet todavía muy pequeña y mostró con qué rapidez un código que se propaga solo se vuelve incontrolable. En 2024, investigadores de Cornell Tech demostraron Morris II: un gusano para ecosistemas de IA generativa que, en condiciones de laboratorio, se propagaba a través de asistentes de correo basados en modelos de lenguaje mediante prompts autorreplicantes. Fue un experimento en un entorno controlado, pero confirmó el principio.

Hay además otro problema: el parque de dispositivos conectados ha crecido varios órdenes de magnitud desde entonces. Televisores, frigoríficos y routers se actualizan poco y casi nunca se monitorizan. Para un gusano capaz de razonar sobre el terreno, es un entorno propicio.

Qué hacer desde ya

Los administradores de servidores y los responsables de infraestructura deberían ocuparse de la higiene básica, que funciona tanto si el pronóstico se cumple como si no:

• Hacer un inventario de todos los dispositivos conectados, incluidos los equipos «inteligentes» de las oficinas.
• Aislar el IoT en segmentos de red separados y prohibirle el acceso a los servidores internos.
• Desactivar los servicios y las interfaces remotas que no se usen, y cambiar las contraseñas de fábrica.
• Activar la monitorización del tráfico saliente: un dispositivo infectado se delata con conexiones anómalas.
• Limitar los permisos de los agentes de IA: nada de ejecutar código ni acceder al correo sin confirmación humana.

A quienes desarrollan agentes de IA les conviene recordar la lección de Morris II: cualquier texto que lee un agente es, potencialmente, una orden. Queda esperar al informe técnico de Anthropic. De él depende que la advertencia se convierta en un modelo de amenazas útil para la industria o se quede en una tesis sin pruebas que la respalden.