North Mini Code da Cohere: modelo MoE open-weight de 30B para codificação com agentes

A Cohere lançou o North Mini Code — o primeiro modelo aberto da empresa para desenvolvedores, construído com arquitetura mixture-of-experts. Com 30 bilhões de parâmetros, o modelo ativa apenas 3 bilhões a cada chamada, cabe em uma única GPU H100 e oferece suporte a uma janela de contexto de 256 mil tokens.

Codificação agente como caso de uso principal

North Mini Code foi criado especificamente para codificação agente — quando a IA não espera por um prompt, mas planeja, escreve, testa e corrige código independentemente em um loop. Esta é uma classe diferente de tarefas em comparação com a autocompletar convencional: o modelo recebe uma tarefa de alto nível e a resolve com intervenção mínima do desenvolvedor. Uma janela de contexto de 256 mil tokens é uma escolha arquitetônica para esses cenários.

Permite manter repositórios inteiros na memória: não um único arquivo, mas dezenas de módulos interconectados, testes, configs e documentação simultaneamente. Para refatoração end-to-end ou encontrar a causa raiz de um bug através de múltiplas camadas de abstração, isso é fundamental.

• Refatoração autônoma em toda a base de código
• Depuração multietapa sem prompts constantes
• Análise e documentação de projetos legados
• Integração em CI/CD como revisor de IA
• Geração automática e execução de casos de teste em loop

Como MoE funciona na prática

Mixture-of-Experts é uma abordagem onde o modelo é dividido em blocos especializados — especialistas — e para cada token, apenas um subconjunto deles é ativado. Dos 30 bilhões de parâmetros do North Mini Code, apenas cerca de 3 bilhões são acionados em qualquer momento — aproximadamente um décimo. Na prática, isso significa: a carga computacional durante a operação é mais próxima a um modelo de três bilhões de parâmetros, enquanto a qualidade da resposta é comparável a um modelo de trinta bilhões de parâmetros.

O modelo funciona em uma única GPU NVIDIA H100, o que reduz drasticamente o limite de implantação. Uma única GPU H100 alugada na nuvem custa 2–4 dólares por hora — em comparação com dezenas de milhares para um cluster executando um modelo denso equivalente. Arquiteturas MoE estão se tornando o padrão para dimensionamento eficiente: DeepSeek-V3 e Mixtral seguiram o mesmo caminho e mostraram que você pode competir com modelos densos maiores com custos de inferência menores.

Pesos abertos como argumento competitivo

A Cohere publica o North Mini Code com pesos abertos. Isso significa a capacidade de baixar o modelo, ajustá-lo com seus próprios dados e implantá-lo em qualquer infraestrutura — sem depender da API da Cohere. Para clientes empresariais, isso atende a várias necessidades-chave: os dados permanecem dentro do perímetro da empresa, o modelo pode ser adaptado aos padrões de codificação internos e frameworks proprietários, e a latência da implantação local é mínima. Este mesmo requisito — controle, customização, independência de SaaS — se torna o principal argumento competitivo da Cohere contra soluções fechadas.

O que isso significa

O mercado de modelos de IA para desenvolvedores é denso: DeepSeek Coder, Qwen2.5-Coder, Code Llama, Mistral e outros já operam aqui. North Mini Code ocupa um nicho específico — tarefas agentes em infraestrutura proprietária — e aposta em três parâmetros simultaneamente: eficiência MoE, contexto longo e pesos abertos. Benchmarks independentes e implantações iniciais em produção mostrarão se essa combinação se mostra vencedora.