North Mini Code de Cohere: modelo MoE open-weight de 30B para codificación con agentes

Cohere ha lanzado North Mini Code — el primer modelo abierto de la empresa para desarrolladores, construido con arquitectura mixture-of-experts. Con 30 mil millones de parámetros, el modelo activa solo 3 mil millones en cada llamada, cabe en una única GPU H100 y admite una ventana de contexto de 256 mil tokens.

Codificación agente como caso de uso principal

North Mini Code se crea específicamente para codificación agente — cuando la IA no espera un prompt, sino que planifica, escribe, prueba y corrige código de forma independiente en un bucle. Esta es una clase diferente de tareas en comparación con la autocompletación convencional: el modelo recibe una tarea de alto nivel y la resuelve con intervención mínima del desarrollador. Una ventana de contexto de 256 mil tokens es una elección arquitectónica para tales escenarios.

Permite mantener repositorios completos en memoria: no un único archivo, sino docenas de módulos interconectados, pruebas, configuraciones y documentación simultáneamente. Para refactorización de extremo a extremo o encontrar la causa raíz de un error a través de múltiples capas de abstracción, esto es fundamental.

• Refactorización autónoma en toda la base de código
• Depuración multietapa sin indicadores constantes
• Análisis y documentación de proyectos heredados
• Integración en CI/CD como revisor de IA
• Generación automática y ejecución de casos de prueba en bucle

Cómo funciona MoE en la práctica

Mixture-of-Experts es un enfoque donde el modelo se divide en bloques especializados — expertos — y para cada token, solo se activa un subconjunto de ellos. De los 30 mil millones de parámetros de North Mini Code, solo unos 3 mil millones se activan en cualquier momento — aproximadamente una décima parte. En la práctica, esto significa: la carga computacional durante la operación es más cercana a un modelo de tres mil millones de parámetros, mientras que la calidad de la respuesta es comparable a un modelo de treinta mil millones de parámetros.

El modelo se ejecuta en una única GPU NVIDIA H100, lo que reduce drásticamente el umbral de implementación. Una única GPU H100 alquilada en la nube cuesta 2–4 dólares por hora — en comparación con decenas de miles para un clúster que ejecuta un modelo denso equivalente. Las arquitecturas MoE se están convirtiendo en el estándar para escalado eficiente: DeepSeek-V3 y Mixtral han seguido el mismo camino y demostrado que puedes competir con modelos densos más grandes con costos de inferencia menores.

Pesos abiertos como argumento competitivo

Cohere publica North Mini Code con pesos abiertos. Esto significa la capacidad de descargar el modelo, ajustarlo con tus propios datos e implementarlo en cualquier infraestructura — sin depender de la API de Cohere. Para clientes empresariales, esto aborda varias necesidades clave: los datos permanecen dentro del perímetro de la empresa, el modelo puede adaptarse a estándares de codificación internos y frameworks propietarios, y la latencia de la implementación local es mínima. Esta misma solicitud — control, personalización, independencia de SaaS — se convierte en el principal argumento competitivo de Cohere contra soluciones cerradas.

Qué significa esto

El mercado de modelos de IA para desarrolladores es denso: DeepSeek Coder, Qwen2.5-Coder, Code Llama, Mistral y otros ya operan aquí. North Mini Code ocupa un nicho específico — tarefas agentes en infraestructura propietaria — y apuesta por tres parámetros simultáneamente: eficiencia MoE, contexto largo y pesos abiertos. Los puntos de referencia independientes y los primeros despliegues en producción mostrarán si esta combinación resulta ganadora.