Intensivo Gratis 21–22.11Intensivo gratuito de 2 días en Vibecoding (21–22 nov, 16:00 MSK) · Cohorte 3 inicia 23.11Registrarse gratis →Cohorte 3 (23.11)
LanzamientoAnálisis · En radarHabr AI→ original

Un agente de pentesting con IA reinició la base de datos sin verificarla: 4 reglas para no tumbar producción

Un agente de pentesting decidió que la base de datos le estorbaba, la reinició y no comprobó el resultado: el servicio no se levantó. La IA ya confirma bien las vulnerabilidades encontradas, pero buscarlas desde cero sigue siendo débil, porque por debajo funciona un modelo de propósito general. XBOW envió a HackerOne unos 1.060 informes, pero los revisaron personas. Por eso el agente necesita una lista de comandos permitidos y la confirmación humana para cualquier acción peligrosa.

Procesado por IA desde Habr AI; editado por Hamidun News
Un agente de pentesting con IA reinició la base de datos sin verificarla: 4 reglas para no tumbar producción
Fuente: Habr AI. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalHabr AI ↗
Editor jefe
Dato clave #1El agente debe verificar el servicio después de cada acción que modifique el sistema
Dato clave #2CaMeL, de Google DeepMind, resolvió el 77% de las tareas de AgentDojo frente al 84% sin protección
Dato clave #3Un pentest manual para certificación cuesta alrededor de 15.000 dólares

Un agente de pentesting decidió que la base de datos le estorbaba y la reinició. Esperaba que el servicio volviera a levantarse por sí solo, no comprobó el resultado y siguió adelante. La base de datos no arrancó. Al autor del análisis le tocó la mejor parte: era su propio entorno de pruebas. Su interlocutor, Alexander Kelchin, CTO y CISO de Medici Lab, ha tirado con agentes entornos de demostración de clientes, y lo ha hecho con acuerdo previo. De una conversación de una hora salió un repaso práctico: qué es capaz de hacer la IA en el pentesting en 2026, dónde sigue siendo débil y cómo evitar tumbar la producción de otro.

Dónde el agente ahorra tiempo de verdad

El pentesting automatizado existe desde hace unos veinte años, mucho antes que los LLM: desde el ruso XSpider hasta las combinaciones alrededor de Metasploit. La primera ola de modelos de lenguaje añadió a estos productos la capacidad de resumir: en lugar de gráficos tediosos, el responsable recibe un breve resumen de las vulnerabilidades más peligrosas y puede hacer preguntas. Los agentes cambiaron el panorama con más fuerza, porque el modelo ganó «manos»: la llamada a herramientas, y para ellas ya hay muchos servidores MCP.

La primera ventaja es el volumen que ninguna persona leería. Alexander le pasaba al agente el tráfico de red completo: ARP, DNS, certificados SSL. Revisarlo a mano no tiene sentido, y el agente entregó una conclusión comprensible.

La segunda es la integración con las herramientas habituales. Antes, Alexander escribía su propia envoltura alrededor de Burp Suite y pasaba el estado al agente a través de archivos. Ahora PortSwigger tiene un servidor MCP oficial para Burp. La primera versión de Burp AI solo proponía peticiones que había que enviar a mano, y los créditos gratuitos alcanzaban para unas tres horas. En un alcance de dos mil hosts, un asistente que solo aconseja no sirve de mucho; un agente conectado mediante MCP cierra esa diferencia.

La tercera son los modelos especializados. OpenAI abrió a defensores verificados el acceso a modelos de ciberseguridad mediante Trusted Access for Cyber. Alexander los probó para analizar código, pero al final escribió su propia capa de integración: cuando lo haces tú mismo, entiendes qué hay dentro.

Confirma bien, encuentra mal

Los agentes abiertos Strix y PentAGI entienden razonablemente bien, en un contexto pequeño, si una vulnerabilidad es real. Pero en infraestructura de producción funcionaban mal, y hace unos tres años era más rápido y fiable hacerlo a mano. La razón es sencilla: por dentro hay un modelo común, no entrenado para buscar vulnerabilidades.

Un ejemplo revelador es XBOW. En el verano de 2025 ocupó el primer puesto en la clasificación de HackerOne del segundo trimestre y envió unos 1.060 informes. La empresa describe los hallazgos como totalmente automáticos, pero antes de enviarlos los revisaba un equipo de seguridad, como exigen las normas de la plataforma. La confirmación funciona mediante «validadores»: a veces es un LLM y otras veces una comprobación programada. En el caso de XSS, por ejemplo, un navegador sin interfaz visita la página y comprueba si la carga se ejecutó. Alexander compró la versión comercial, un producto empresarial de varios miles de dólares.

Para el pentesting interno hay otra explicación. Los informes sobre infraestructura interna están cubiertos por acuerdos de confidencialidad (NDA) y no entran en el entrenamiento, así que los desarrolladores de modelos no tienen datos. Mientras no haya más, el modelo rinde peor que una persona.

Cómo no tumbar producción y proteger al propio agente

De las dos historias salen cuatro reglas:

  • Lista de comandos permitidos en lugar de lista de prohibidos. El autor limita al agente en los entornos de clientes a los comandos echo, cat, cp y pwd.
  • Las acciones destructivas o que reinician servicios solo se ejecutan con confirmación humana. «Reiniciar» suena inofensivo, pero puede dejar el servicio caído.
  • Verificación del resultado después de cada acción que modifique el sistema. El agente no sabe que el servicio no se ha levantado hasta que lo comprueba.
  • Las pruebas destructivas solo se hacen en un entorno cuya pérdida el cliente haya aceptado por escrito.

El propio agente también se convierte en superficie de ataque. Lee contenido ajeno: respuestas de servidores, páginas, registros, banners. Cualquiera de ellos puede contener una inyección de prompt, y un agente con acceso a herramientas la ejecutará dentro de tu infraestructura.

Alexander considera poco eficaces las defensas desde dentro del modelo, como los guardarraíles o el ajuste fino, y construye la protección alrededor del modelo. Como referencia cita el trabajo de CaMeL, de Google DeepMind y ETH Zúrich: un modelo privilegiado construye el plan solo a partir de la petición de confianza, mientras que un modelo aislado procesa los datos no confiables y no puede cambiar el curso del programa. Las políticas verifican cada llamada a herramientas.

En AgentDojo, CaMeL resolvió el 77% de las tareas con defensa demostrable, frente al 84% del sistema sin ella. Para los modelos cerrados queda el contenedor con un conjunto reducido de llamadas. En la práctica, es un ejecutor aislado, una lista explícita de acciones y control sobre los datos que salen del entorno.

Dinero y un pronóstico prudente

Las licencias corporativas de pentesting automatizado comercial cuestan miles de dólares; un pentest manual para cumplir con formalidades, en clientes extranjeros, ronda los 15.000. Una plataforma de auditoría por suscripción de 200 dólares pareció extraña a los interlocutores: supone un canal adicional de fuga de información sobre vulnerabilidades. Según el autor, el pentesting externo ya se ha abaratado hasta convertirse en un consumible, mientras que el interno mantiene su precio por la escasez de datos. Alexander coincide en lo del externo, pero discrepa en lo del pentesting físico, que cuesta un orden de magnitud distinto.

La conclusión es más prudente que los titulares sobre el reemplazo de personas. El agente se encarga de la rutina: el tráfico, las peticiones repetitivas, la confirmación de hallazgos típicos. Las cadenas no estándar y la responsabilidad por las acciones dentro de infraestructura ajena siguen en manos humanas. Es la opinión de dos profesionales, no una medición sobre una muestra amplia, pero las reglas de limitación son universales para cualquier agente con acceso a infraestructura.

Historia

Preguntas frecuentes sobre la noticia

Dónde el agente ahorra tiempo de verdad?

El pentesting automatizado existe desde hace unos veinte años, mucho antes que los LLM: desde el ruso XSpider hasta las combinaciones alrededor de Metasploit. La primera ola de modelos de lenguaje añadió a estos productos la capacidad de resumir: en lugar de gráficos tediosos, el responsable recibe un breve resumen de las vulnerabilidades más peligrosas y puede hacer preguntas.

¿Qué se sabe sobre Confirma bien, encuentra mal?

Los agentes abiertos Strix y PentAGI entienden razonablemente bien, en un contexto pequeño, si una vulnerabilidad es real. Pero en infraestructura de producción funcionaban mal, y hace unos tres años era más rápido y fiable hacerlo a mano. La razón es sencilla: por dentro hay un modelo común, no entrenado para buscar vulnerabilidades. Un ejemplo revelador es XBOW. En el verano de 2025 ocupó el primer puesto en la clasificación de HackerOne del segundo trimestre y envió unos 1.060 informes.

Cómo no tumbar producción y proteger al propio agente?

De las dos historias salen cuatro reglas: Lista de comandos permitidos en lugar de lista de prohibidos. El autor limita al agente en los entornos de clientes a los comandos echo, cat, cp y pwd. Las acciones destructivas o que reinician servicios solo se ejecutan con confirmación humana. «Reiniciar» suena inofensivo, pero puede dejar el servicio caído. Verificación del resultado después de cada acción que modifique el sistema. El agente no sabe que el servicio no se ha levantado hasta que lo comprueba.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…