Tencent publie Hy3, un modèle MoE ouvert de 295 milliards de paramètres avec un contexte de 256K

L'équipe Tencent Hy a publié Hy3, un modèle ouvert Mixture-of-Experts (MoE) de 295 milliards de paramètres, qui n'active que 21 milliards de paramètres pour chaque token traité. Le modèle est distribué sous licence Apache 2.0 et vise le raisonnement, les scénarios agentiques et le travail sur contexte long.

Quelle architecture pour Hy3

Hy3 repose sur le principe Mixture-of-Experts : au lieu de mobiliser simultanément les 295 milliards de paramètres, le système en sélectionne et en active seulement une partie pour chaque token, environ 21 milliards. Cette approche permet au modèle de conserver un vaste volume de connaissances tout en réduisant nettement la charge de calcul par rapport à un modèle dense de même taille.

• Taille totale du modèle : 295 milliards de paramètres (MoE)
• Paramètres actifs par token : 21 milliards
• Fenêtre de contexte : 256 000 tokens
• Licence : Apache 2.0 (code ouvert)
• Résultat sur SWE-Bench Verified : 78.0
• Accès gratuit sur OpenRouter : jusqu'au 21 juillet 2026

Pour quelles tâches le modèle est conçu

Les développeurs positionnent Hy3 comme un modèle de raisonnement, de scénarios agentiques et de travail sur contexte long, c'est-à-dire pour des tâches où le système doit garder en mémoire un grand volume d'informations et exécuter des enchaînements d'actions en plusieurs étapes. La fenêtre de 256K tokens permet de fournir au modèle de gros documents, des bases de code ou de longues conversations sans perte de cohérence.

Sur SWE-Bench Verified, un benchmark qui évalue la capacité des modèles à résoudre de vraies tâches de correction de code dans des dépôts ouverts, Hy3 a obtenu 78.0. Les développeurs affirment aussi que la fréquence des hallucinations est inférieure à celle des modèles précédents de l'équipe.

Comment tester le modèle gratuitement

Jusqu'au 21 juillet 2026, Hy3 est disponible en test gratuit sur OpenRouter, un agrégateur d'API pour grands modèles de langage qui permet aux développeurs d'interroger Hy3 sans avoir à le déployer en local.

Ce que cela change

Hy3 ajoute au marché ouvert un nouveau grand modèle MoE sous licence Apache 2.0, qui rivalise avec les principaux systèmes propriétaires par la taille de contexte et les résultats sur les benchmarks de code, et abaisse le seuil d'entrée pour les développeurs qui veulent accéder à un modèle puissant sans passer par des API fermées.

Questions fréquentes

Qu'est-ce que le Mixture-of-Experts dans Hy3 ?

C'est une architecture où le modèle compte 295 milliards de paramètres au total, mais n'en active qu'environ 21 milliards par token. Les autres « experts » ne sont pas sollicités à ce moment-là, ce qui réduit les coûts de calcul.

Combien coûte l'accès à Hy3 ?

Jusqu'au 21 juillet 2026, le modèle est gratuit sur OpenRouter. La licence Apache 2.0 permet aussi de le déployer soi-même sans frais de licence.

Quel est le résultat de Hy3 sur les benchmarks de code ?

Sur SWE-Bench Verified, un test de correction de vrais bugs dans des dépôts ouverts, le modèle a obtenu 78.0 points.