Un stack open source de 6 modelos y 9 agentes muestra cómo montar un equipo de IA en un solo servidor

Un equipo autónomo de nueve agentes de IA puede diseñar, escribir, probar y desplegar nuevos agentes sin intervención humana. No hace falta un conjunto de API cerradas: el esquema se basa en seis modelos open source y, en su versión básica, cabe en un solo servidor con GPU.

Cómo está organizado el equipo

En lugar de un único modelo «universal», el autor montó un flujo de trabajo con nueve roles. Unos agentes se encargan de definir la tarea y la arquitectura; otros, de escribir código, controlar la calidad, probar y publicar. El resultado no es un gran asistente, sino una pequeña organización de ingeniería en la que cada miembro hace una parte acotada del trabajo.

Este enfoque reduce el caos: el agente no tiene que planificar el sistema, escribir módulos, ejecutar pruebas y evaluar sus propios errores a la vez. La idea clave es que la autonomía no se logra con magia, sino dividiendo el proceso en etapas. Si el agente solo entiende su tramo y recibe como entrada una tarea ya estructurada, los requisitos para el modelo son más claros.

El orquestador debe saber razonar y mantener el contexto, el constructor debe generar código de forma estable y el crítico debe detectar problemas en el uso de herramientas y en los escenarios de ejecución. Por eso la ventaja no viene de un supermodelo, sino de ensamblar con precisión los roles en un pipeline operativo.

Roles y benchmarks

El autor rechaza de forma explícita la idea del «mejor modelo en general». En su lugar, los roles se eligen según lo que respaldan los benchmarks. Para el orquestador importa el razonamiento, así que la referencia es un resultado de GPQA del 88,4 %. Para el constructor es crítica la generación de código, y aquí se mira HumanEval con un 92,7 %. Para el crítico pesa más entender el uso de herramientas y el comportamiento de los agentes en las tareas, por lo que se toma tau-bench, con un resultado del 87,4 %. Esa especialización explica que se usen seis modelos open source distintos en vez de uno de clase GPT para todos los casos.

• Orquestador: razonamiento sólido, priorización y descomposición de tareas
• Constructor: generación de código y revisión rápida de cambios de ingeniería
• Crítico: verificación del uso de herramientas, de la calidad de las soluciones y de los puntos débiles del pipeline
• Otros roles: pruebas, despliegue y etapas de servicio, donde se pueden reutilizar instancias compartidas

Nueve agentes no significan nueve modelos completos en memoria al mismo tiempo. Un truco práctico es compartir instancias: varios roles usan el mismo modelo si sus cargas y perfiles de tarea son parecidos. Así, un sistema de nueve agentes puede funcionar con solo tres o cuatro instancias de modelo. Esto reduce de forma drástica el consumo de VRAM, simplifica el mantenimiento y acerca la arquitectura a la producción real, en lugar de a una demostración con presupuesto ilimitado.

Hardware y puesta en marcha

La parte de infraestructura merece atención aparte. El autor describe tres configuraciones de despliegue: desde una sola RTX 4090 con 24 GB de memoria hasta un clúster de A100 con 211 GB en total. Entre esos extremos se puede elegir el equilibrio entre velocidad, calidad y paralelismo. Para abaratar costes se emplean cuantización, una infraestructura de inferencia bien pensada y un panel interactivo que ayuda a seguir los roles, la carga y el avance de las tareas. Es decir, no se trata solo de elegir modelos, sino también de un entorno operativo adecuado para ellos.

La conclusión práctica es sencilla: la IA agéntica open source deja de ser un juguete de laboratorio. Si antes este tipo de esquemas se asociaban con API caras o con clústeres pesados, aquí se muestra un camino de inicio más realista. Un equipo pequeño puede empezar con un servidor, comprobar la viabilidad del pipeline y escalarlo a medida que crezcan las tareas. El coste ya parece una decisión de ingeniería, y no una barrera que descarta de inmediato a la mayoría de los equipos.

Qué significa

El mercado se aleja de la idea de un modelo «mágico» y avanza hacia sistemas orientados a roles, donde importa más la composición correcta que un nombre sonoro en una API. Para las empresas es una señal: los equipos de IA autónomos pueden montarse ya con componentes open source, siempre que se traten como infraestructura y proceso, y no como una simple ventana de chat.