Hugging Face et Cerebras lancent une IA vocale temps réel sur Gemma 4

Le 1er juillet 2026, Hugging Face et Cerebras ont lancé une nouvelle IA vocale : un système fondé sur le modèle de langage Gemma 4 de Google DeepMind, doté de 31 milliards de paramètres et de latences prévisibles en temps réel.

De quoi le système est composé

L'architecture comprend quatre composants indépendants, dont chacun peut être remplacé sans toucher aux autres :

• Reconnaissance vocale : Nvidia Parakeet
• Modèle de langage : Gemma 4 de Google DeepMind (31 milliards de paramètres)
• Plateforme d'inférence : Cerebras
• Synthèse vocale : Qwen3TTS d'Alibaba

Cette approche diffère fondamentalement des pipelines vocaux monolithiques : lorsqu'un modèle ASR plus précis ou un moteur TTS plus rapide sort, on le remplace dans le pipeline sans arrêter tout le système. C'est particulièrement important dans un domaine aussi mouvant que celui des modèles vocaux ouverts.

Les développeurs disposent d'une démo interactive dans le Hugging Face Space « HF Realtime Voice » et du code source complet dans le dépôt huggingface/speech-to-speech sur GitHub. Chacune des quatre couches peut être forkée et adaptée à une tâche précise, de l'assistant robotique au centre d'appels d'entreprise.

Le partenariat entre Hugging Face et Cerebras s'inscrit dans une tendance plus large : la vitesse d'inférence devient un avantage concurrentiel au même titre que la qualité du modèle de base. Pour l'écosystème open source, cela signifie que la faible latence n'est plus le privilège exclusif des API fermées.

Pourquoi la latence au 95e centile compte-t-elle ?

La latence médiane a cessé depuis longtemps d'être un gage de qualité : la plupart des systèmes vocaux commerciaux tiennent un niveau acceptable de 300–500 ms en moyenne. Le vrai problème, c'est le 95e centile (P95), où apparaissent des pauses de plusieurs secondes que l'utilisateur perçoit comme un « blocage » de son interlocuteur.

La situation s'aggrave dans les dialogues à plusieurs tours, lorsque le modèle doit appeler un outil externe, traiter une image ou assembler plusieurs fragments de contexte. Chaque étape supplémentaire multiplie le retard, et le P95 devient le talon d'Achille de l'architecture. Cerebras accélère l'inférence de Gemma 4 au point de rendre les latences de queue prévisibles : on peut bâtir un système avec des garanties strictes de temps de réponse.

L'échelle de l'usage réel renforce cette thèse : plus de 9000 robots Reachy Mini fonctionnent déjà en production sur le pipeline de parole à parole de Hugging Face. Ce sont précisément ces déploiements industriels qui révèlent l'écart entre les benchmarks de laboratoire et les latences réelles en exploitation.

Ce que cela signifie

Une pile ouverte sur Gemma 4 avec inférence Cerebras abaisse le seuil d'entrée pour les équipes qui veulent une IA vocale sans dépendances propriétaires. La modularité préserve la flexibilité à long terme : chacune des quatre couches se met à jour indépendamment à mesure que de meilleurs modèles sortent, sans qu'il faille réécrire tout le pipeline pour une seule amélioration. La démo publique et le dépôt ouvert transforment le concept en modèle prêt pour la production pour les développeurs de robotique, d'appareils connectés et d'interfaces vocales.

Questions fréquentes

Combien de paramètres compte Gemma 4 dans ce pipeline ?

Le pipeline utilise la version de Gemma 4 de Google DeepMind à 31 milliards de paramètres. L'inférence s'exécute sur la plateforme Cerebras, qui assure des latences prévisibles même au 95e centile de charge.

Où peut-on essayer le système ?

La démo est disponible dans le Hugging Face Space « HF Realtime Voice », et le code source complet est ouvert dans le dépôt huggingface/speech-to-speech sur GitHub.

Qu'est-ce que Gemma 4 ?

C'est un modèle de langage de Google DeepMind à 31 milliards de paramètres, utilisé dans le pipeline ouvert de parole à parole pour l'IA vocale en temps réel.

Peut-on utiliser Gemma 4 gratuitement ?

Oui, c'est la première pile modulaire d'IA vocale accessible publiquement, et les développeurs peuvent utiliser et remplacer chacun de ses composants indépendamment.

Qu'est-ce que l'IA vocale Gemma 4 ?

C'est une IA vocale ouverte lancée par Hugging Face et Cerebras sur la base du modèle de langage Gemma 4 de Google DeepMind (31 milliards de paramètres). Le système convertit la parole en parole avec des latences prévisibles en temps réel, grâce à une pile modulaire de quatre composants indépendants.