Anthropic sobre agentes de IA en ciberseguridad: capacidades y trampas

Anthropic publicó una investigación sobre la aplicación de agentes de IA en tareas de ciberseguridad. Edgar Sipki, autor de Habr y fundador de easyp & sipki tech, se propuso analizar el documento y hacer una pregunta incómoda: ¿cuánto podemos confiar realmente en estos agentes en la práctica?

Qué Dice Anthropic

La empresa probó agentes Claude en un amplio espectro de tareas de seguridad de la información — análisis estático de código, detección de vulnerabilidades, construcción de modelos de amenaza y evaluación de seguridad de infraestructura. En escenarios típicos, los agentes mostraron resultados superiores al nivel promedio de un especialista: procesaron bases de código grandes más rápidamente e identificaron patrones comunes de vulnerabilidades que son fáciles de pasar por alto durante la revisión manual bajo presión de plazos.

Áreas donde los agentes ya aportan valor práctico:

• Análisis estático de código — detección de inyecciones SQL, XSS, dependencias inseguras y secretos hardcodeados
• Construcción automática de modelos de amenaza para nuevos servicios
• Pruebas de penetración aceleradas: el agente mapea la superficie de ataque, el especialista se enfoca en vectores complejos
• Generación de informes detallados de riesgos y recomendaciones para priorizar correcciones
• Monitoreo de cambios en la base de código para detectar regresiones de seguridad

En el papel suena convincente. Pero con una mirada más cercana, el panorama se complica.

Donde los Agentes Fallan

El problema principal es la calidad del trabajo en casos extremos. Los agentes aluciman vulnerabilidades que no existen e ignoran simultáneamente problemas reales ocultos en código no estándar o lógica comercial específica. En el contexto de la ciberseguridad, esto es especialmente crítico. Un falso positivo desperdicia recursos del equipo investigando una amenaza inexistente. Un falso negativo deja abierto un agujero real mientras crea una falsa sensación de seguridad. El segundo escenario es peor que la ausencia de una verificación: adormece la vigilancia.

Otra debilidad es el contexto del sistema limitado. El agente solo ve lo que se le proporciona. Las vulnerabilidades vinculadas a la interacción de múltiples componentes, especificidades de despliegue o un entorno en la nube particular a menudo pasan desapercibidas — requieren entender toda la arquitectura, no archivos individuales.

Permisos de Acceso — Un Problema Separado

Una pregunta seria que rara vez aparece en materiales de marketing: ¿qué permisos necesita un agente para trabajar efectivamente en un contexto de seguridad? El escaneo completo de infraestructura requiere privilegios elevados. Y los privilegios elevados en sí mismos se convierten en un vector de ataque: si el agente se ve comprometido o comete un error con consecuencias — la escala del problema crece rápidamente. Anthropic recomienda el principio del menor privilegio y entornos aislados para tareas de seguridad basadas en agentes. Pero la configuración adecuada requiere trabajo de ingeniería adicional — y bajo plazos ajustados, a menudo se omite. Esto crea exactamente el agujero que el agente debe sellar.

"Los agentes no son un reemplazo para especialistas en seguridad, sino una herramienta para acelerar su trabajo" — una tesis clave de la investigación de

Anthropic.

Qué Significa Esto

Los agentes de IA ya aportan valor en tareas de seguridad rutinarias: revisión de código estándar, escaneo inicial, preparación de informes. Pero confiarles autoridad autónoma sobre infraestructura crítica es prematuro por ahora. La conclusión principal, que Edgar Sipki también extrae, es que los agentes cambian no la composición del equipo de seguridad, sino su conjunto de herramientas. El humano en el bucle sigue siendo obligatorio — especialmente donde el costo del error es alto.