El desarrollo con agentes sin Governance es peligroso: un stack de tres niveles en la práctica

Los agentes de IA autónomos, que planifican tareas, escriben y revisan código sin la supervisión constante de un desarrollador, han convertido el Governance en un elemento obligatorio de la infraestructura de ingeniería, y no en una capa auxiliar añadida a posteriori.

En qué se diferencia un agente de un asistente de chat

En el modo de asistente de chat, el desarrollador revisa personalmente cada línea: el modelo propone y la persona decide. Un agente autónomo cambia este esquema de raíz: define él mismo las subtareas, escribe la implementación, ejecuta las pruebas y registra el resultado, con miles de microdecisiones por hora.

Una persona, físicamente, no llega a revisarlas todas. De ese desfase surge la necesidad de Governance: un sistema que incluye no solo reglas, sino también procesos: quién adopta las reglas, cómo se aplican y quién vigila su cumplimiento. Según los autores del artículo en Habr, es precisamente en el paso del modo chat al modo autónomo cuando el Governance cambia de estatus: de «estaría bien tenerlo» a «imprescindible».

¿Para qué sirve un stack de tres niveles?

Los autores del artículo construyeron un stack de Governance concreto para una plataforma de reserva de instalaciones deportivas con NestJS (backend) y Next.js (frontend). La elección de la plataforma no es casual: reservar implica una lógica de negocio rígida —franjas horarias, solapamientos, transacciones—, donde un error del agente puede pasar inadvertido y, aun así, ser crítico.

El stack consta de tres niveles:

• Nivel 1: la base de código. Las reglas se integran en el proyecto mediante linters, restricciones de arquitectura y convenciones. El agente no puede infringirlas sin provocar un error explícito.
• Nivel 2: políticas de comportamiento del agente. Una frontera clara entre «el agente actúa de forma autónoma» y «el agente solicita aprobación». El equipo fija esa frontera de antemano, no después de un incidente.
• Nivel 3: observabilidad y auditoría. Trazabilidad completa de las decisiones. Tras cada sesión de trabajo, el equipo ve qué hizo exactamente el agente, por qué y qué consecuencias tuvo.

Sin el tercer nivel, los dos primeros se quedan en meras declaraciones: las infracciones ocurren, pero siguen siendo invisibles.

¿Por qué el Governance no es burocracia?

Existe una idea equivocada muy extendida: ver el Governance como un freno, una capa superflua de aprobaciones. En la práctica, es la única forma de mantener la velocidad sin perder el control.

«El

Governance deja de ser una herramienta auxiliar y se convierte en un requisito estricto», señala el material publicado en Habr.

Un agente autónomo reduce el coste de escribir código, pero a la vez eleva el coste de supervisarlo. Sin políticas explícitas, el equipo gasta tiempo en analizar las consecuencias en lugar de construir producto. En la plataforma de reservas, el riesgo concreto es este: el agente modifica de forma imperceptible la lógica de comprobación de solapamiento de franjas, y el error no aparece en las pruebas, sino en reservas conflictivas de usuarios reales. El stack de tres niveles hace visible ese escenario antes de que ocurra, y no después.

Qué significa

El desarrollo con agentes es la siguiente etapa tras Copilot y los asistentes de chat, y ya se está desplegando en proyectos reales de producción. Los equipos de ingeniería que no construyan ahora un stack de Governance tendrán que hacerlo más tarde, en plena crisis.

Preguntas frecuentes

¿Qué es el Governance en el desarrollo con agentes de IA?

El Governance no es solo un conjunto de reglas, sino un sistema: reglas de comportamiento del agente, procesos para adoptarlas y herramientas para controlar su cumplimiento. A diferencia de la «regulación», el Governance abarca restricciones de arquitectura, políticas de autonomía y trazabilidad, todo junto y no por separado.

¿Por qué no bastan las reglas en el código?

Las reglas sin observabilidad no funcionan: el agente puede infringirlas y el equipo solo se entera por las consecuencias. El tercer nivel del stack, la auditoría y la trazabilidad, es tan importante como los dos primeros niveles, que son restrictivos.