JetBrains a lancé Mellum2 — un modèle MoE ouvert de 12B pour les tâches rapides dans les pipelines AI

JetBrains — la compagnie qui a créé les outils IDE IntelliJ IDEA et PyCharm utilisés par des dizaines de millions de développeurs — a lancé Mellum2, une version mise à jour de son modèle de langage spécialisé. Mellum2 est publié sous la licence Apache 2.0 et est conçu pour le traitement rapide des tâches spécialisées dans le cadre de pipelines d'IA multi-modèles.

Mellum est la ligne propriétaire de JetBrains de modèles de langage pour les tâches de programmation. Mellum2 est une mise à jour significative : nouvelle architecture MoE, volume de données d'entraînement mis à l'échelle et positionnement clair en tant que composant spécialisé pour les systèmes multi-modèles.

Architecture MoE et échelle d'entraînement

Mellum2 est construit sur l'architecture Mixture of Experts (MoE) avec 12 milliards de paramètres. Contrairement aux modèles denses classiques où tous les poids du réseau sont activés à chaque requête, MoE divise le modèle en blocs "experts" spécialisés et n'active qu'une partie d'entre eux selon le type de jeton. Cela permet au modèle de fonctionner plus rapidement et de manière plus économique avec la même capacité.

Pour le préentraînement, JetBrains a utilisé un corpus de 10,6 billions de jetons — une échelle comparable aux modèles ouverts emblématiques comme LLaMA 3 de Meta. Pour un modèle de codage, le volume de données est critiquement important : plus la couverture des langages de programmation, frameworks et documentations techniques est large, plus le modèle traite avec précision les tâches dans les bases de code réelles.

Rôle dans les pipelines multi-modèles

Mellum2 n'aspire pas à concurrencer les assistants universels comme Claude ou GPT. Il a été conçu comme composant spécialisé rapide pour des étapes spécifiques dans les flux de travail des développeurs :

• autocomplétion de code en temps réel directement dans l'IDE
• refactorisation rapide de petites fonctions et blocs de code
• classification des requêtes et routage au sein des agents d'IA
• génération de commentaires et documentation inline
• exécution d'étapes intermédiaires "pas chères" avant de transmettre une tâche à un modèle plus grand

Le dernier scénario est clé. Les systèmes d'IA en production pour le développement sont de plus en plus construits comme des "orchestres de modèles" : un modèle rapide léger traite les requêtes routinières avec une latence minimale, un modèle phare lourd n'est engagé que pour les tâches complexes nécessitant un raisonnement profond. Mellum2 a été créé précisément pour le rôle de spécialiste rapide dans de tels pipelines.

Licence Apache 2.0 open source

Apache 2.0 est l'une des licences open source les plus libérales. Mellum2 peut être intégré dans des produits corporatifs fermés, affiné sur des données propriétaires et utilisé dans des services commerciaux sans versement de redevances à JetBrains. L'entreprise publie les poids du modèle en accès ouvert.

Parmi les modèles de codage avec poids ouverts, il existe une concurrence significative : Code Llama de Meta, DeepSeek-Coder, StarCoder, Qwen2.5-Coder. Mellum2 entre dans cet espace avec un positionnement spécifique — intégration profonde dans l'écosystème IDE de JetBrains et le rôle d'une composante spécialisée dans les pipelines multi-étapes, pas une tentative de surpasser les fleurons dans les benchmarks généraux de génération de code.

Ce que cela signifie

Mellum2 est la preuve d'une tendance importante : les compagnies créant des outils pour les développeurs s'éloignent de l'achat d'IA auprès de fournisseurs externes et commencent à entraîner leurs propres modèles spécialisés pour des scénarios d'utilisateurs spécifiques. JetBrains parie que l'intégration profonde de l'IDE et la spécialisation de domaine sont plus importantes que la supériorité abstraite dans les benchmarks universels. Pour le développeur, cela signifie des suggestions d'IA plus rapides directement dans l'éditeur familier — sans délais d'API cloud et sans besoin d'envoyer son propre code vers des serveurs tiers.