Intensif Gratuit 21–22/11Intensif gratuit de 2 jours en Vibecoding (21–22 nov, 16h00 MSK) · Cohorte 3 le 23/11S'inscrire gratuitement →Cohorte 3 (23/11)
SortieCode / SDK · Prêt à l'emploiX: @vllm_project→ original

Tencent ouvre Hy4 flash : 12 milliards de paramètres actifs sur 224 milliards, contexte de 1 million de tokens

Tencent a ouvert les poids du modèle Hy4 flash, et le moteur vLLM le prend en charge dès le jour de sa sortie. Le modèle compte 224 milliards de paramètres au total, mais seuls 12 milliards travaillent à chaque mot. Ses réponses devraient donc être plus rapides et moins chères que celles d'un modèle dense de même taille. Le contexte de 1 million de tokens correspond à une pile de gros livres ou à un lot de contrats dans une seule requête. Une image Docker prête à l'emploi existe : on peut donc tester le modèle sur ses propres documents en une soirée, mais il faut prévoir de la mémoire pour les 224 milliards de paramètres.

Traité par IA depuis X: @vllm_project ; édité par Hamidun News
Tencent ouvre Hy4 flash : 12 milliards de paramètres actifs sur 224 milliards, contexte de 1 million de tokens
Source : X: @vllm_project. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireX: @vllm_project ↗
Rédacteur en chef
Trois versionsHy4 flash, Hy4 flash-FP8 et la version de base Hy4 flash-Base
Chiffre clé #2Sur les 224 milliards de paramètres, 64 milliards relèvent du bloc Engram
Image de lancementvllm/vllm-openai:hy4-flash

Les modèles ouverts butent de plus en plus non pas sur la qualité, mais sur une question pratique : sur quoi les faire tourner, et combien coûtera chaque réponse. Tencent a publié Hy4 flash avec des poids ouverts, et le projet vLLM, moteur très répandu pour exécuter des modèles, a ajouté sa prise en charge dès le jour de la sortie. Voici comment lire les chiffres du titre.

224 milliards est le nombre total de paramètres, c'est-à-dire le « volume de connaissances » du modèle. 12 milliards est la part de ces paramètres qui participe au traitement de chaque token : c'est donc ce chiffre qui détermine la vitesse et le prix des réponses. 1 million de tokens est la taille du contexte : à peu près plusieurs gros livres, ou un gros lot de contrats, que l'on peut charger dans une seule requête.

Si vous hébergez vous-même vos modèles, inutile d'attendre que la communauté peaufine le déploiement.

Ce qui vient de sortir

Hy4 flash a été conçu par l'équipe Tencent Hunyuan. Selon la description, il s'agit d'un modèle nativement multimodal : il travaille non seulement avec du texte, mais aussi avec des images, des documents et des diapositives. Les cas d'usage annoncés sont les tâches de recherche, le travail sur de gros documents et des présentations, ainsi que le contrôle d'ordinateur (computer use), où le modèle regarde l'écran et agit comme un utilisateur.

Trois variantes sont disponibles sur Hugging Face : Hy4 flash, la version principale, Hy4 flash-FP8, la version quantifiée, et Hy4 flash-Base, la version de base. Le FP8 stocke les poids sur 8 bits et occupe deux fois moins de mémoire que la version en 16 bits. La version Base n'a pas été affinée pour le dialogue ; elle s'adresse à ceux qui veulent réaliser leur propre fine-tuning.

Comment comprendre « 224B, mais 12B »

C'est le principe du mixture-of-experts. Imaginez un grand cabinet d'avocats : il emploie des centaines de personnes, mais trois seulement travaillent sur un dossier donné. Ici, c'est pareil : le modèle compte de nombreux « spécialistes », mais seule une petite partie est sollicitée pour chaque token. La qualité dépend du volume total de connaissances contenu dans les poids, tandis que la vitesse et le prix des réponses dépendent de la partie active. Hy4 flash devrait donc tourner plus vite qu'un modèle dense de 224 milliards de paramètres.

Parmi ses choix d'architecture, Tencent cite l'attention hybride, Latent MoE et Engram. Sur les 224 milliards de paramètres, 64 milliards relèvent précisément d'Engram. L'annonce n'explique pas comment ce bloc fonctionne ; mieux vaut chercher les détails dans la fiche du modèle. Tencent résume ainsi son approche : l'efficacité est placée au cœur de l'architecture. Le modèle est présenté comme rapide et pensé pour la productivité au quotidien.

Ce que cela change en pratique

La principale nouvelle pour les ingénieurs est la prise en charge dans vLLM dès le premier jour. Une image Docker prête à l'emploi, vllm/vllm-openai:hy4-flash, est disponible, ainsi qu'une recette de déploiement sur recipes.vllm.ai. On peut donc lancer un serveur compatible OpenAI avec ce modèle grâce aux mêmes outils que pour les autres LLM ouverts, sans compilation manuelle ni choix de versions à tâtons.

Ce qu'il faut prendre en compte :

  • Mémoire. Estimation simple : 224 milliards de paramètres en FP8 représentent environ 224 Go rien que pour les poids, et deux fois plus en 16 bits. Seuls 12 milliards de paramètres sont actifs, mais il faut tous les garder en mémoire. Il faudra donc un serveur avec plusieurs GPU, et non une seule carte.
  • Un contexte long coûte cher. Un million de tokens dans une requête sollicite fortement la mémoire du cache d'attention, et il faudra ajuster la longueur réelle à votre matériel.
  • L'annonce ne donne aucun chiffre de qualité. Le post d'origine ne contient ni benchmarks, ni comparaisons avec d'autres modèles ouverts, ni conditions de licence. Il faut le vérifier avant de bâtir un produit sur ce modèle.

Tencent indique aussi que Hy4 sortira bientôt. La version flash semble être le premier modèle de la famille que l'on peut exécuter soi-même.

À qui s'adresse-t-il

Si vous analysez de longs documents et des diapositives, ou si vous testez des agents qui regardent l'écran, Hy4 flash mérite d'être essayé sur vos propres données. Commencez par la version FP8 et l'image vLLM, mesurez la vitesse sur des requêtes réelles et comparez la qualité avec le modèle que vous utilisez actuellement. Faute de tests indépendants, il est trop tôt pour juger sur la foi de formules telles que « rapide et efficace ». Mais l'association de poids ouverts, de multimodalité, d'un grand contexte et d'une recette de lancement prête à l'emploi fait de cette sortie un candidat sérieux pour des expérimentations.

Dossier

Questions clés sur cet article

Que sait-on sur Ce qui vient de sortir ?

Hy4 flash a été conçu par l'équipe Tencent Hunyuan. Selon la description, il s'agit d'un modèle nativement multimodal : il travaille non seulement avec du texte, mais aussi avec des images, des documents et des diapositives. Les cas d'usage annoncés sont les tâches de recherche, le travail sur de gros documents et des présentations, ainsi que le contrôle d'ordinateur (computer use), où le modèle regarde l'écran et agit comme un utilisateur.

Comment comprendre « 224B, mais 12B »?

C'est le principe du mixture-of-experts. Imaginez un grand cabinet d'avocats : il emploie des centaines de personnes, mais trois seulement travaillent sur un dossier donné. Ici, c'est pareil : le modèle compte de nombreux « spécialistes », mais seule une petite partie est sollicitée pour chaque token. La qualité dépend du volume total de connaissances contenu dans les poids, tandis que la vitesse et le prix des réponses dépendent de la partie active.

Que sait-on sur Ce que cela change en pratique ?

La principale nouvelle pour les ingénieurs est la prise en charge dans vLLM dès le premier jour. Une image Docker prête à l'emploi, vllm/vllm-openai:hy4-flash, est disponible, ainsi qu'une recette de déploiement sur recipes.vllm.ai. On peut donc lancer un serveur compatible OpenAI avec ce modèle grâce aux mêmes outils que pour les autres LLM ouverts, sans compilation manuelle ni choix de versions à tâtons. Ce qu'il faut prendre en compte : Mémoire.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
Qu'en pensez-vous ?
Chargement des commentaires…