Agentes de IA en producción: arquitectura de Enterprise AI Harness sobre Kubernetes

Un ingeniero ha publicado en Habr una arquitectura de referencia para un Enterprise AI Harness sobre Kubernetes. En lugar de escribir un runtime propio, el autor construyó la infraestructura con componentes abiertos, para que cualquier equipo de plataforma pueda ejecutar agentes en producción, y no solo Anthropic.

¿Por qué los agentes en producción son un punto ciego?

La comunidad ofrece decenas de artículos y cursos sobre cómo diseñar, entrenar o configurar un agente de IA. Se sabe mucho menos sobre cómo ejecutarlo en producción de forma segura, fiable y predecible. Ese conocimiento suele quedar tras las puertas cerradas de empresas como Anthropic, OpenAI o Google, que tienen recursos y experiencia para escribir su propio runtime desde cero. El trabajo implica problemas de ingeniería complejos: gestión del estado, tolerancia a fallos, aislamiento de contextos, monitorización y seguridad.

¿Qué capas componen la arquitectura?

El autor propone una arquitectura de referencia dividida en cuatro capas funcionales:

• Capa de orquestación: gestión del ciclo de vida del agente, planificación de tareas, gestión de errores y políticas de reintento, gestión de la cola de solicitudes
• Capa de integración: conexión con servicios externos, API REST, herramientas y almacenes de datos
• Capa de ejecución: la ejecución propiamente dicha del agente, gestión del contexto y la memoria, llamadas a las API de LLM
• Capa de observabilidad: registro de todas las operaciones, métricas de rendimiento, trazabilidad distribuida, configuración de alertas

Entre las capas se definen puntos de integración contractuales claros, lo que permite sustituir componentes concretos sin reescribir todo el sistema. Esto es clave en producción: no se puede apostar toda la pila a una sola implementación. Por ejemplo, si la herramienta de orquestación no encaja por algún motivo o hace falta integrarse con un sistema existente, se puede elegir una alternativa sin reescribir la capa de integración ni la de ejecución.

¿A quién le sirve esta arquitectura?

La solución está pensada para equipos de plataforma de grandes empresas o startups ambiciosas que quieren:

• Permitir que los desarrolladores desplieguen agentes de IA por su cuenta, sin tener que construir la infraestructura desde cero
• Evitar el lock-in con servicios en la nube como Azure AI Services o AWS Bedrock
• Garantizar fiabilidad, seguridad y previsibilidad en producción

La solución funciona sobre Kubernetes, el estándar de la industria para la contenedorización en la empresa. Esto significa que la mayoría de las herramientas DevOps existentes (pipelines de CI/CD, políticas de red, estrategias de copia de seguridad) funcionarán de inmediato, sin adaptaciones.

Qué significa

El despliegue de agentes de IA en producción pasa de la fase experimental a la práctica de ingeniería estándar. Las arquitecturas de referencia abiertas y las buenas prácticas reducen la barrera de entrada y aceleran la adopción en equipos que no pueden o no quieren escribir su propio runtime desde cero. Esto importa sobre todo en el entorno corporativo, donde la fiabilidad y el cumplimiento de los requisitos de seguridad pesan más que la velocidad de prototipado.