Yandex Cloud explica cómo implantar agentes de IA en ciberseguridad sin bloqueos falsos ni caídas

Yandex Cloud ha descrito cómo los agentes de IA pueden convertirse en ayudantes útiles para un SOC, pero no deben recibir permiso para ejecutar acciones críticas sin el control de una persona. En un análisis publicado en Habr, el equipo presentó dos escenarios: en uno, el agente ahorra al analista decenas de minutos; en el otro, aísla por error un controlador de dominio y detiene el trabajo de la empresa.

Por qué el SOC está saturado

Un SOC moderno vive en un ruido constante: un solo analista puede recibir hasta 1000 alertas al día, y hasta el 95% resultan ser falsos positivos. En ese contexto, delegar en la IA la clasificación inicial y la correlación parece casi inevitable. Un agente puede analizar logs con rapidez, decodificar comandos, extraer contexto del SIEM y relacionar eventos con MITRE ATT&CK. Donde una persona necesita decenas de minutos de trabajo concentrado, un modelo puede dar un borrador en segundos.

Pero Yandex Cloud advierte de que el potencial de automatización es mayor que la fiabilidad real de estos sistemas. El autor cita un estudio de Anthropic de marzo según el cual, en las profesiones de informática y matemáticas, la automatización teórica de tareas alcanza el 94%, mientras que la observada es de solo un 33% aproximadamente. Esa brecha muestra lo esencial: la IA ya es útil, pero no puede considerarse un empleado autónomo maduro. Sobre todo en ciberseguridad, donde un error al interpretar un evento puede costar algo más que una falsa alerta: la parada de servicios clave.

Dónde se equivoca el agente

El ejemplo central del artículo gira en torno a una alerta en el controlador de dominio DC01. En el escenario seguro, el agente recibe una señal sobre un lanzamiento sospechoso de PowerShell, decodifica el comando en Base64, entiende que enumera a los miembros de Domain Admins y lo vincula con una técnica de reconocimiento de privilegios. Después revisa las políticas internas, detecta que DC01 pertenece al Tier-0, recopila eventos adicionales solo en una ventana temporal estrecha y, en lugar de actuar de forma automática, genera un informe para el analista del SOC con confirmación HITL obligatoria.

En el escenario malo, el fallo no está en la entrada, sino en el razonamiento. El agente correlaciona los eventos de forma demasiado burda, por tiempo y host, y no por identificadores de sesión y cadena de procesos. Así, vincula una consulta DNS ajena con la actividad de PowerShell, interpreta el cuadro como C2 o exfiltración y decide aislar DC01. Para un controlador de dominio es un desastre: caen Kerberos y LDAP, se detienen los servicios dependientes y el negocio sufre una parada por una conclusión falsa del modelo.

«Hay que asumir que los modelos alucinan y pueden equivocarse», escribe

Serguéi Nesteruk.

Qué barreras hacen falta

La idea principal del artículo es que no hay que combatir la posibilidad misma de la alucinación, sino las consecuencias del error. Un LLM no maneja la verdad como lo hace un analista y, ante la incertidumbre, tiende más a adivinar que a decir con honestidad «no lo sé». Por eso, un agente de IA fiable en ciberseguridad no es un solo modelo, sino un conjunto de límites externos a su alrededor: validación de la entrada, control de la memoria, permisos estrictos sobre las herramientas, auditoría y una capa de aprobación humana donde el coste del error es demasiado alto.

• filtrado de datos de entrada y protección frente a prompt injection
• RAG con una base de conocimiento actualizada, RBAC, reranking y verificación de conflictos
• reasoning firewall: supervisor, descomposición de tareas, verificación cruzada y estimación de confianza
• restricción de acciones en Tier-0, política de abstención y human-in-the-loop obligatorio

Yandex Cloud aconseja implantar estos sistemas por fases. Como referencia práctica, el equipo usa AI-SAFE, un marco de modelado de amenazas para sistemas con agentes, con cinco niveles: entrada del usuario, orquestación del contexto, razonamiento del modelo, herramientas y bases de conocimiento. Primero, un asistente que busca datos, reúne contexto y reduce la carga cognitiva del equipo. Luego, una automatización parcial con confirmación humana. Y solo cuando se acumulen logs, métricas de calidad, escenarios de fallo comprendidos y un funcionamiento estable, se puede dar al agente mayores atribuciones.

Qué significa

El mercado se mueve hacia una IA normalizada en el SOC, pero no ganarán quienes primero pongan un agente en producción, sino quienes lo rodeen de guardrails y dejen a una persona la decisión final en los puntos críticos. Para las empresas es una buena referencia: ya se puede automatizar la rutina, pero todavía no se puede automatizar la confianza.