North Mini Code, da Cohere: modelo MoE aberto de 30B para programação agêntica

A Cohere lançou o North Mini Code, o primeiro modelo aberto da empresa para desenvolvedores, construído sobre a arquitetura mixture-of-experts. Dos 30 bilhões de parâmetros, o modelo ativa apenas 3 bilhões a cada chamada, cabe em uma única GPU H100 e oferece janela de contexto de 256 mil tokens.

Programação agêntica como cenário principal

O North Mini Code foi criado especificamente para programação agêntica: a IA não espera um comando, mas planeja, escreve, testa e corrige código por conta própria, em ciclo. É uma classe de tarefas diferente do autocompletar comum: o modelo recebe uma tarefa de alto nível e a resolve com intervenção mínima do desenvolvedor.

A janela de 256 mil tokens é uma escolha de arquitetura voltada a esses cenários. Ela permite manter na memória repositórios inteiros: não um arquivo só, mas dezenas de módulos interligados, testes, configurações e documentação ao mesmo tempo. Para refatoração de ponta a ponta ou para encontrar a causa raiz de um bug atravessando várias camadas de abstração, isso é fundamental.

Tarefas típicas para as quais o modelo foi otimizado:

• Refatoração autônoma que considera toda a base de código
• Depuração em várias etapas sem comandos constantes
• Análise e documentação de projetos legados
• Integração ao CI/CD como revisor de IA
• Geração e execução de casos de teste em ciclo automatizado

Como o MoE funciona na prática

Mixture-of-experts é uma abordagem em que o modelo é dividido em blocos especializados, os especialistas, e apenas um subconjunto deles é ativado para cada token. Dos 30 bilhões de parâmetros do North Mini Code, cerca de 3 bilhões são usados a cada momento, aproximadamente um décimo.

Na prática, a carga de processamento fica próxima à de um modelo de 3 bilhões de parâmetros, enquanto a qualidade das respostas se aproxima à de um de 30 bilhões. O modelo roda em uma única GPU NVIDIA H100, o que reduz bastante a barreira de implantação. Uma H100 alugada na nuvem custa de 2 a 4 dólares por hora, contra dezenas de milhares para um cluster que rode um modelo denso equivalente.

As arquiteturas MoE estão virando padrão para escalar com eficiência: DeepSeek-V3 e Mixtral seguiram o mesmo caminho e mostraram que é possível competir com modelos densos maiores com custo de inferência menor.

Pesos abertos como argumento competitivo

A Cohere publica o North Mini Code com pesos abertos. Isso significa poder baixar o modelo, refiná-lo com dados próprios e implantá-lo em qualquer infraestrutura, sem depender da API da Cohere. Para clientes corporativos, isso atende a várias necessidades centrais: os dados ficam dentro do perímetro da empresa, o modelo pode ser adaptado a padrões internos de código e frameworks proprietários, e a latência em implantação local é mínima.

É essa demanda por controle, personalização e independência de SaaS que se torna o principal argumento competitivo da Cohere diante das soluções fechadas.

O que isso significa

O mercado de modelos de IA para desenvolvedores é concorrido: DeepSeek Coder, Qwen2.5-Coder, Code Llama, Mistral e outros já atuam nele. O North Mini Code ocupa um nicho específico, tarefas agênticas em infraestrutura própria, e aposta em três fatores ao mesmo tempo: eficiência de MoE, contexto longo e pesos abertos.

Se essa combinação será vencedora, benchmarks independentes e as primeiras implantações em produção vão mostrar.