IQuest-Q1: modelo MoE aberto com 320 bilhões de parâmetros para codificação agêntica na CLI

O IQuest-Q1 é um novo modelo aberto para sistemas agênticos na linha de comando. Trata-se de um Mixture-of-Experts esparso com 320 bilhões de parâmetros, dos quais 15 bilhões são ativados para cada token, ou seja, menos de 5% dos pesos. Os autores descrevem um caminho em três estágios: pré-treinamento, treinamento intermediário (mid-training) e pós-treinamento em vários scaffolds. O modelo final resulta da fusão de especialistas e de checkpoints de diferentes etapas. O modelo é apresentado como forte tanto em programação quanto em tarefas gerais, e os pesos foram publicados em acesso aberto.

Pré-treinamento: como manter a estabilidade com 320 bilhões de parâmetros

A primeira etapa trata de algo pouco glamouroso, mas decisivo: fazer com que um modelo MoE enorme treine sem falhas. A equipe combina três técnicas. O Stable SplitNorm cuida da estabilidade do treinamento, o otimizador Muon garante a eficiência de cada passo, e o muP, a parametrização que transfere hiperparâmetros entre escalas, permite ajustar as configurações em modelos pequenos em vez de adivinhar no grande.

O principal resultado dessa combinação, segundo os autores, é uma ampla margem de estabilidade entre o learning rate seguro e o ideal. Normalmente essa faixa é estreita: basta passar um pouco do ponto ótimo para que a loss entre em uma trajetória de divergência. Quanto mais larga a faixa, mais barato é errar na configuração, e em um modelo desse tamanho cada reinício custa caro.

O currículo de treinamento tem duas etapas. Na segunda fase do pré-treinamento, a proporção de dados de código na mistura aumenta. O modelo recebe primeiro uma base geral e depois é deslocado para a programação, que é a habilidade central de agentes no terminal.

Mid-training e pós-treinamento: aprender com diferentes scaffolds

Entre o pré-treinamento e o pós-treinamento há uma etapa de ajuste fino da composição dos dados. A mistura se amplia em domínios e formatos, e o contexto cresce de forma gradual. Para um agente de CLI, isso é crítico: ele lê logs, diffs, saídas de comandos e o histórico dos próprios passos, e tudo isso cresce rápido.

O pós-treinamento é construído em torno da ideia de multi-scaffold e multi-version. O scaffold é a estrutura que envolve o modelo: o conjunto de ferramentas, o formato das chamadas, o ciclo de ações. É justamente aí que os produtos agênticos de CLI se diferenciam, e um modelo treinado para um scaffold muitas vezes se adapta mal a outro. O IQuest-Q1 é treinado em vários deles ao mesmo tempo, para que a habilidade não fique presa a uma única interface.

O pós-treinamento combina três ferramentas:

• SFT em demonstrações;
• RL específico por domínio, em que cada especialista é reforçado nas suas próprias tarefas;
• MOPD, que reúne sinais de diferentes fontes de aprendizado.

Fusão em vez de um único melhor checkpoint

O último passo é o model merging. Os autores fundem diferentes especialistas e checkpoints de várias etapas e trabalham separadamente para que as atualizações de parâmetros não entrem em conflito. É um problema conhecido: dois ajustes finos, cada um útil isoladamente, podem se anular quando os pesos são simplesmente calculados pela média. Se os conflitos forem resolvidos, o resultado é um único modelo que preserva os pontos fortes dos especialistas, sem a necessidade de manter uma frota de versões especializadas.

Ficha técnica

• Arquitetura: MoE esparso, 320B de parâmetros no total, 15B ativos
• Pré-treinamento: Stable SplitNorm, Muon, muP, currículo em duas etapas com aumento da proporção de código
• Mid-training: ampliação de domínios e formatos, aumento gradual do contexto
• Pós-treinamento: SFT, RL por domínio, MOPD em vários scaffolds e versões
• Montagem: fusão de especialistas e checkpoints com controle de conflitos de atualização
• Licenciamento: modelo aberto para pesquisa e desenvolvimento

Para quem vale olhar o IQuest-Q1, e por quê

Para equipes que constroem seus próprios agentes de terminal, o valor aqui é duplo. Primeiro, ter pesos abertos de um modelo dessa classe, com 15 bilhões de parâmetros ativos, significa pagar pela inferência como em um modelo de porte médio, e não como em um modelo denso de 300 bilhões. Ainda assim, será preciso muita memória para armazenar os pesos, então a implantação é pensada para clusters de GPU robustos, e não para uma única workstation.

Segundo, a própria receita é interessante. O treinamento em vários scaffolds, a fusão de especialistas e a ampla margem de learning rate podem ser estudados e reaproveitados independentemente do modelo. O passo prático é óbvio: rodar o IQuest-Q1 nas suas próprias tarefas, no scaffold desejado, e comparar com o modelo atual. Uma avaliação em repositórios reais mostrará mais do que qualquer tabela de benchmarks.