Meituan lance LongCat-2.0 : un modèle MoE ouvert de 1,6 billion de paramètres avec un contexte de 1 million de tokens

L'entreprise technologique chinoise Meituan a publié le 5 juillet 2026 LongCat-2.0, un modèle ouvert de type Mixture-of-Experts doté de 1,6 billion de paramètres et d'une fenêtre de contexte native de 1 million de tokens, entraîné et déployé entièrement sur des accélérateurs d'IA nationaux.

Ce que contient LongCat-2.0

LongCat-2.0 repose sur une architecture Mixture-of-Experts : pour chaque token traité, seuls environ 48 milliards des 1,6 billion de paramètres sont activés. Cette approche permet de conserver la qualité de modèles denses d'échelle comparable avec un coût de calcul d'inférence nettement inférieur. Le modèle sollicite de façon ciblée les blocs d'experts utiles, au lieu de « dépenser » tout le budget de calcul sur chaque token.

Principales caractéristiques du modèle :

• Paramètres totaux : 1,6 billion ; actifs par token : ~48 milliards
• Contexte natif : 1 million de tokens
• Mécanisme d'attention : LongCat Sparse Attention (développement propre de Meituan)
• Infrastructure : entraînement et inférence sur des supercalculateurs d'IA nationaux à base d'ASIC
• Statut : modèle ouvert, accessible via API

Pourquoi un contexte de 1 million de tokens change les règles du jeu

Une fenêtre de contexte de 1 million de tokens figure aujourd'hui parmi les plus longues des modèles ouverts. Concrètement, elle permet de traiter des dépôts de code entiers, des documents juridiques ou financiers volumineux et de longs historiques de conversation en une seule requête, sans découpage en blocs ni perte de cohérence.

Pour que cette longueur de contexte reste gérable en calcul, Meituan a mis au point son propre mécanisme, LongCat Sparse Attention. Il réduit la complexité quadratique de l'auto-attention standard : au lieu d'une attention mutuelle complète entre tous les tokens, le modèle applique des motifs parcimonieux qui réduisent le volume de calcul sans perte significative de qualité sur les longues séquences.

Infrastructure souveraine : le cycle complet sans GPU étrangers

Un détail notable de cette publication : Meituan a mené tout le cycle, de l'entraînement à l'inférence en production, sur des supercalculateurs équipés d'accélérateurs d'IA nationaux à base d'ASIC. Dans le contexte des restrictions américaines à l'exportation de GPU haute performance, cela montre que les grands groupes chinois ne se contentent pas de s'adapter aux obstacles d'infrastructure : ils créent des produits compétitifs de classe frontière sur leur propre base de calcul.

Meituan est connue avant tout comme plateforme de livraison et de services du quotidien, et non comme un laboratoire d'IA traditionnel. Il est d'autant plus significatif que l'entreprise ait bouclé le cycle, du silicium à un modèle ouvert de 1,6 billion de paramètres, sans matériel étranger. Jusqu'ici, les rapports publics d'entraînement complet de modèles de cette taille sans NVIDIA H100 étaient rares parmi les entreprises technologiques non spécialisées.

Ce que cela signifie

La sortie de LongCat-2.0 élargit l'offre de modèles MoE ouverts à contexte extrêmement long et confirme une tendance : de grandes entreprises technologiques chinoises extérieures au cercle classique de la recherche en IA ont appris à produire des modèles de frontière compétitifs, et le font sur leur propre matériel. Pour les développeurs, c'est une option ouverte de plus avec un contexte de 1 million de tokens pour les tâches où la longueur de séquence est critique.

Questions fréquentes

Combien de paramètres

LongCat-2.0 utilise-t-il réellement lors de son fonctionnement ?

Pour chaque token traité, environ 48 milliards des 1,6 billion de paramètres sont activés. C'est le principe standard de l'architecture MoE, qui maintient une qualité élevée avec des coûts de calcul d'inférence maîtrisables.

Comment

Meituan a-t-elle obtenu un contexte de 1 million de tokens ?

L'entreprise a développé son propre mécanisme, LongCat Sparse Attention, qui réduit la complexité quadratique de l'attention standard grâce à des motifs parcimonieux pour traiter les longues séquences.