North Mini Code de Cohere: un modelo MoE abierto de 30B para programación agéntica

Cohere ha lanzado North Mini Code, el primer modelo abierto de la compañía para desarrolladores, construido sobre una arquitectura mixture-of-experts. De sus 30.000 millones de parámetros, el modelo activa solo 3.000 millones en cada llamada, cabe en una sola GPU H100 y admite una ventana de contexto de 256.000 tokens.

La programación agéntica como escenario principal

North Mini Code se ha diseñado específicamente para la programación agéntica: la IA no espera instrucciones, sino que planifica, escribe, prueba y corrige código por su cuenta en un ciclo. Es una clase de tareas distinta del autocompletado habitual: el modelo recibe un encargo de alto nivel y lo resuelve con una intervención mínima del desarrollador.

La ventana de 256.000 tokens es una decisión de arquitectura pensada para estos escenarios. Permite mantener en memoria repositorios enteros: no un solo archivo, sino decenas de módulos interrelacionados, pruebas, configuraciones y documentación a la vez. Para una refactorización de extremo a extremo o para rastrear la causa raíz de un error a través de varias capas de abstracción, esto es fundamental.

Tareas típicas para las que está optimizado el modelo:

• Refactorización autónoma que tiene en cuenta toda la base de código
• Depuración en varios pasos sin indicaciones constantes
• Análisis y documentación de proyectos legacy
• Integración en CI/CD como revisor de IA
• Generación y ejecución de casos de prueba en un ciclo automático

Cómo funciona MoE en la práctica

Mixture-of-experts es un enfoque en el que el modelo se divide en bloques expertos especializados y, para cada token, solo se activa un subconjunto de ellos. De los 30.000 millones de parámetros de North Mini Code, en cada momento se usan unos 3.000 millones, aproximadamente una décima parte.

En la práctica, la carga de cómputo se parece a la de un modelo de 3.000 millones de parámetros, mientras que la calidad de las respuestas se acerca a la de uno de 30.000 millones. El modelo funciona en una sola GPU NVIDIA H100, lo que reduce de forma drástica la barrera de despliegue. Una H100 alquilada en la nube cuesta entre 2 y 4 dólares por hora, frente a decenas de miles para un clúster que ejecute un modelo denso equivalente.

Las arquitecturas MoE se están convirtiendo en el estándar del escalado eficiente: DeepSeek-V3 y Mixtral siguieron el mismo camino y demostraron que se puede competir con modelos densos más grandes con menores costes de inferencia.

Los pesos abiertos como argumento competitivo

Cohere publica North Mini Code con pesos abiertos. Esto significa que se puede descargar el modelo, ajustarlo con datos propios y desplegarlo en cualquier infraestructura, sin depender de la API de Cohere. Para los clientes empresariales, esto cubre varias necesidades clave: los datos permanecen dentro del perímetro de la empresa, el modelo puede adaptarse a los estándares internos de código y a frameworks propietarios, y la latencia en el despliegue local es mínima.

Esta demanda de control, personalización e independencia del SaaS se perfila como el principal argumento competitivo de Cohere frente a las soluciones cerradas.

Qué significa

El mercado de modelos de IA para desarrolladores está saturado: ya compiten DeepSeek Coder, Qwen2.5-Coder, Code Llama, Mistral y otros. North Mini Code apunta a un nicho concreto, las tareas agénticas en infraestructura propia, y apuesta por tres factores a la vez: eficiencia MoE, contexto largo y pesos abiertos.

Si esa combinación resulta ganadora lo dirán los benchmarks independientes y los primeros despliegues en producción.