North Mini Code de Cohere : un modèle MoE ouvert de 30B pour le codage agentique

Cohere a lancé North Mini Code, le premier modèle ouvert de l'entreprise destiné aux développeurs, bâti sur une architecture mixture-of-experts. Sur ses 30 milliards de paramètres, le modèle n'en active que 3 milliards à chaque appel, tient sur un seul GPU H100 et prend en charge une fenêtre de contexte de 256 000 tokens.

Le codage agentique comme usage principal

North Mini Code a été conçu spécifiquement pour le codage agentique : l'IA n'attend pas d'instruction, elle planifie, écrit, teste et corrige elle-même le code en boucle. C'est une tout autre catégorie de tâches que l'autocomplétion classique : le modèle reçoit une mission de haut niveau et la résout avec un minimum d'intervention du développeur.

La fenêtre de 256 000 tokens est un choix d'architecture pensé pour ces scénarios. Elle permet de garder en mémoire des dépôts entiers : non pas un fichier, mais des dizaines de modules interdépendants, les tests, les fichiers de configuration et la documentation en même temps. Pour une refactorisation de bout en bout ou pour remonter à la cause première d'un bug à travers plusieurs couches d'abstraction, c'est essentiel.

Tâches typiques pour lesquelles le modèle est optimisé :

• Refactorisation autonome tenant compte de toute la base de code
• Débogage en plusieurs étapes sans sollicitation constante
• Analyse et documentation de projets legacy
• Intégration au CI/CD en tant que relecteur IA
• Génération et exécution de cas de test dans une boucle automatisée

Le MoE en pratique

Le mixture-of-experts est une approche où le modèle est découpé en blocs d'experts spécialisés, et où seul un sous-ensemble d'entre eux est activé pour chaque token. Sur les 30 milliards de paramètres de North Mini Code, environ 3 milliards sont mobilisés à chaque instant, soit à peu près un dixième.

En pratique, la charge de calcul se rapproche de celle d'un modèle de 3 milliards de paramètres, tandis que la qualité des réponses se rapproche de celle d'un modèle de 30 milliards. Le modèle fonctionne sur un seul GPU NVIDIA H100, ce qui abaisse nettement le seuil de déploiement. Un H100 loué dans le cloud coûte 2 à 4 dollars de l'heure, contre des dizaines de milliers pour un cluster faisant tourner un modèle dense équivalent.

Les architectures MoE deviennent la norme pour un passage à l'échelle efficace : DeepSeek-V3 et Mixtral ont suivi la même voie et montré qu'on peut rivaliser avec des modèles denses plus gros à moindre coût d'inférence.

Les poids ouverts, un argument concurrentiel

Cohere publie North Mini Code avec des poids ouverts. Concrètement, on peut télécharger le modèle, l'affiner sur ses propres données et le déployer sur n'importe quelle infrastructure, sans dépendre de l'API de Cohere. Pour les clients en entreprise, cela répond à plusieurs besoins clés : les données restent dans le périmètre de l'entreprise, le modèle peut être adapté aux standards de code internes et aux frameworks propriétaires, et la latence en déploiement local est minimale.

Cette demande de contrôle, de personnalisation et d'indépendance vis-à-vis du SaaS devient le principal argument concurrentiel de Cohere face aux solutions fermées.

Ce que cela change

Le marché des modèles d'IA pour développeurs est dense : DeepSeek Coder, Qwen2.5-Coder, Code Llama, Mistral et d'autres y sont déjà présents. North Mini Code vise une niche précise, les tâches agentiques sur infrastructure propre, et mise sur trois atouts à la fois : l'efficacité du MoE, le contexte long et les poids ouverts.

Si cette combinaison sera gagnante, les benchmarks indépendants et les premiers déploiements en production le diront.