IQuest-Q1: modelo MoE abierto de 320 mil millones de parámetros para programación agéntica en CLI

IQuest-Q1 es un nuevo modelo abierto para sistemas agénticos en la línea de comandos. Se trata de una Mixture-of-Experts dispersa de 320 mil millones de parámetros, de los cuales se activan 15 mil millones por cada token, es decir, menos del 5% de los pesos. Los autores describen un recorrido en tres etapas: preentrenamiento, entrenamiento intermedio (mid-training) y posentrenamiento sobre varios scaffolds. El modelo final se ensambla fusionando expertos y checkpoints de distintas fases. Se presenta como un modelo sólido tanto en programación como en tareas generales, y sus pesos se han publicado en abierto.

Preentrenamiento: cómo mantener la estabilidad con 320 mil millones de

parámetros

La primera etapa se dedica a algo aburrido pero decisivo: lograr que una MoE enorme aprenda sin interrupciones ni fallos. El equipo combina tres técnicas. Stable SplitNorm se encarga de la estabilidad del entrenamiento, el optimizador Muon de la eficiencia de cada paso, y muP, una parametrización que permite transferir hiperparámetros entre escalas, deja ajustar la configuración en modelos pequeños en lugar de tantear en el grande.

Los autores resumen el resultado principal de esta combinación como un amplio margen de estabilidad entre el learning rate seguro y el óptimo. Normalmente esa brecha es estrecha: basta con pasarse un poco del óptimo para que la pérdida (loss) entre en una trayectoria divergente. Cuanto más ancha es, más barato resulta equivocarse en el ajuste, y en un modelo de este tamaño cada reinicio sale caro.

El plan de estudios tiene dos etapas. En la segunda fase del preentrenamiento aumenta la proporción de datos de código en la mezcla. El modelo recibe primero una base general y después se le inclina hacia la programación, que es la habilidad principal de los agentes en terminal.

Mid-training y posentrenamiento: aprender de distintos arneses

Entre el preentrenamiento y el posentrenamiento hay una fase de ajuste fino de la composición de los datos. La mezcla se amplía en dominios y formatos, y el contexto crece de forma gradual. Para un agente en CLI esto es crítico: lee logs, diffs, salidas de comandos y el historial de sus propios pasos, y todo ello crece con rapidez.

El posentrenamiento se construye en torno a la idea de multi-scaffold y multi-version. Un scaffold es el arnés que rodea al modelo: el conjunto de herramientas, el formato de las llamadas y el ciclo de acciones. Los productos agénticos de CLI se diferencian justo en este punto, y un modelo entrenado para un solo arnés suele trasladarse mal a otro. IQuest-Q1 se entrena con varios a la vez para que la habilidad no quede atada a una única interfaz.

El posentrenamiento combina tres herramientas:

• SFT sobre demostraciones;
• RL especializado por dominios, en el que cada experto se refuerza en sus propias tareas;
• MOPD, que unifica las señales de distintas fuentes de aprendizaje.

Fusión en lugar de un único mejor checkpoint

El paso final es el model merging. Los autores fusionan distintos expertos y checkpoints de diferentes etapas y trabajan aparte para que las actualizaciones de parámetros no entren en conflicto. Es un problema conocido: dos ajustes finos, cada uno útil por separado, pueden anularse mutuamente si simplemente se promedian los pesos. Si se consigue eliminar los conflictos, el resultado es un solo modelo que conserva las fortalezas de los especialistas y no hace falta mantener una flota de versiones estrechas.

Ficha técnica

• Arquitectura: MoE dispersa (sparse MoE), 320B parámetros en total, 15B activos
• Preentrenamiento: Stable SplitNorm, Muon, muP, plan de estudios en dos etapas con proporción creciente de código
• Mid-training: ampliación de dominios y formatos, aumento gradual del contexto
• Posentrenamiento: SFT, RL por dominios y MOPD sobre varios scaffolds y versiones
• Ensamblaje: fusión de expertos y checkpoints con control de conflictos entre actualizaciones
• Licencia: modelo abierto para investigación y desarrollo

A quién le interesa IQuest-Q1 y por qué

Para los equipos que construyen sus propios agentes para terminal, el valor es doble. Primero, disponer de pesos abiertos de un modelo de esta clase, con 15 mil millones de parámetros activos, significa pagar la inferencia como la de un modelo mediano y no como la de uno denso de 300 mil millones. Aun así, almacenar los pesos exigirá mucha memoria, de modo que el despliegue está pensado para clústeres de GPU potentes y no para una sola estación de trabajo.

Segundo, la propia receta es interesante. El entrenamiento sobre varios scaffolds, la fusión de expertos especializados y el amplio margen de learning rate se pueden estudiar y reutilizar con independencia del modelo. El paso práctico es evidente: pasar IQuest-Q1 por las tareas propias, con el arnés que se necesite, y compararlo con el modelo actual. Evaluar con repositorios reales dirá más que cualquier tabla de benchmarks.