Anthropic sobre los agentes de IA en ciberseguridad: qué pueden hacer y dónde fallan

Anthropic ha publicado un estudio sobre la aplicación de agentes de IA a tareas de ciberseguridad. Edgar Sipki, autor en Habr y fundador de easyp & sipki tech, se propuso desmenuzar el documento y plantear una pregunta incómoda: ¿hasta qué punto se puede confiar en estos agentes en la práctica?

Qué dice Anthropic

La compañía probó agentes Claude en un amplio abanico de tareas de seguridad de la información: análisis estático de código, búsqueda de vulnerabilidades, creación de modelos de amenazas y evaluación de la seguridad de la infraestructura. En escenarios típicos, los agentes obtuvieron resultados por encima del nivel de un especialista medio. Procesaron bases de código grandes más rápido y detectaron patrones de vulnerabilidad comunes que es fácil pasar por alto en una revisión manual hecha con prisas.

Áreas en las que los agentes ya aportan valor práctico:

• Análisis estático de código: búsqueda de inyecciones SQL, XSS, dependencias inseguras y secretos incrustados en el código
• Creación automática de modelos de amenazas para servicios nuevos
• Pentesting más ágil: el agente cartografía la superficie de ataque y el especialista se centra en los vectores complejos
• Informes de riesgos detallados y recomendaciones para priorizar correcciones
• Supervisión de los cambios en el código en busca de regresiones de seguridad

Sobre el papel suena convincente. Pero si se mira de cerca, el panorama se complica.

Dónde fallan los agentes

El principal problema es la calidad en los casos límite. Los agentes alucinan vulnerabilidades que no existen y, a la vez, pasan por alto problemas reales ocultos tras código atípico o lógica de negocio específica.

En ciberseguridad esto es especialmente grave. Un falso positivo gasta recursos del equipo en investigar una amenaza inexistente. Un falso negativo deja abierta una brecha real y además genera una falsa sensación de seguridad. El segundo escenario es peor que no revisar nada: adormece la vigilancia.

Otra debilidad es el contexto limitado del sistema. El agente solo ve lo que se le proporciona. Las vulnerabilidades que dependen de la interacción entre varios componentes, de particularidades del despliegue o de un entorno concreto en la nube a menudo se le escapan, porque exigen entender toda la arquitectura y no archivos aislados.

Los permisos de acceso, un problema aparte

Hay una cuestión seria que rara vez aparece en el material de marketing: ¿qué permisos necesita un agente para trabajar con eficacia en seguridad? Un escaneo completo de la infraestructura requiere privilegios ampliados. Y esos privilegios ampliados son en sí mismos un vector de ataque: si el agente se ve comprometido o comete un error con consecuencias, la escala del problema crece rápido.

Anthropic recomienda el principio de mínimo privilegio y entornos aislados para las tareas de seguridad con agentes. Pero configurarlo bien exige trabajo de ingeniería adicional y, con plazos ajustados, a menudo se omite. Eso crea justo la brecha que el agente debía cerrar.

«Los agentes no sustituyen a los especialistas en seguridad, sino que son una herramienta para acelerar su trabajo», es la tesis clave del estudio de

Anthropic.

Qué significa esto

Los agentes de IA ya son útiles en tareas rutinarias de seguridad: revisión de código estándar, escaneo inicial y preparación de informes. Pero darles autonomía sobre infraestructura crítica sigue siendo prematuro.

La conclusión principal, que comparte Edgar Sipki: los agentes cambian las herramientas de un equipo de seguridad, no su composición. La supervisión humana sigue siendo obligatoria, sobre todo donde el coste de un error es alto.