Агентная разработка без Governance опасна: трёхуровневый стек на практике

Los agentes de AI autónomos que planifican tareas, escriben y revisan código sin supervisión constante del desarrollador han convertido el Governance en un elemento obligatorio de la infraestructura de ingeniería — no en un complemento opcional.

En qué se diferencia un agente de un asistente de chat

En el modo de asistente de chat, el desarrollador verifica personalmente cada línea: el modelo sugiere — el humano decide. Un agente autónomo cambia este esquema de forma radical: él mismo establece las subtareas, escribe la implementación, ejecuta pruebas y registra el resultado, tomando miles de microdecisiones por hora.

Un ser humano simplemente no puede verificarlas todas. De esta brecha surge la necesidad del Governance — un sistema no solo de reglas, sino de procesos: quién establece las reglas, cómo se aplican, quién supervisa su cumplimiento. Según los autores del artículo en Habr, es precisamente en la transición del modo chat al modo autónomo donde el Governance cambia de estatus: de «sería conveniente» a «obligatorio».

Por qué se necesita un stack de tres niveles

Los autores del artículo construyeron un stack de Governance concreto para una plataforma de reserva de instalaciones deportivas utilizando NestJS (backend) y Next.js (frontend). La plataforma fue elegida deliberadamente: la reserva implica una lógica de negocio estricta — slots, solapamientos, transacciones — donde el error de un agente puede ser imperceptible pero crítico.

El stack consta de tres niveles:

• Nivel 1 — Base de código: las reglas están integradas en el proyecto a través de linters, restricciones arquitectónicas y convenciones. El agente no puede vulnerarlas sin provocar un error explícito.
• Nivel 2 — Políticas de comportamiento del agente: una delimitación clara entre «el agente actúa de forma autónoma» y «el agente solicita aprobación». El límite lo define el equipo de antemano, no tras producirse un incidente.
• Nivel 3 — Observabilidad y auditoría: trazabilidad completa de las decisiones. Tras cada sesión de trabajo, el equipo puede ver exactamente qué hizo el agente, por qué y qué consecuencias tuvo.

Sin el tercer nivel, los dos primeros se convierten en meras declaraciones: las infracciones ocurren, pero permanecen invisibles.

Por qué el Governance no es burocracia

Un malentendido frecuente: el Governance se percibe como un freno, una capa adicional de aprobaciones. En la práctica, es la única forma de mantener la velocidad sin perder el control.

«El

Governance deja de ser una herramienta auxiliar y se convierte en un requisito estricto», — se afirma en el artículo de Habr.

Un agente autónomo reduce el coste de escribir código, pero al mismo tiempo incrementa el coste de la supervisión. Sin políticas explícitas, el equipo dedica tiempo a gestionar consecuencias en lugar de construir el producto. En la plataforma de reservas, el riesgo concreto es: el agente modifica silenciosamente la lógica de validación de solapamiento de slots, y el error no emerge en las pruebas, sino en reservas en conflicto de usuarios reales. El stack de tres niveles hace visible ese escenario antes — no después.

Qué significa todo esto

El desarrollo agéntico es la siguiente etapa tras Copilot y los asistentes de chat, y ya se está desplegando en proyectos reales de producción. Los equipos de ingeniería que no construyan un stack de Governance ahora se verán obligados a hacerlo en modo de crisis.

Preguntas frecuentes

¿Qué es el Governance en el desarrollo con agentes de AI?

El Governance no es simplemente un conjunto de reglas, sino un sistema: reglas de comportamiento del agente, procesos para adoptarlas y herramientas para supervisar su cumplimiento. A diferencia de la «regulación», el Governance incluye restricciones arquitectónicas, políticas de autonomía y trazabilidad — todo en conjunto, no por separado.

¿Por qué las reglas en el código no son suficientes por sí solas?

Las reglas sin observabilidad no funcionan: un agente puede vulnerarlas y el equipo solo lo sabrá por las consecuencias. El tercer nivel del stack — auditoría y trazabilidad — es igual de importante que los dos primeros niveles restrictivos.