Groq lance Meta Muse Spark Open : 816B de paramètres et plus de 350 tokens/s

Meta a publié Muse Spark Open, un modèle open-weight dédié à la programmation agentique, et Groq l'a branché à GroqCloud dès le jour de la sortie. Pour l'instant, l'accès se limite à un limited preview. Selon Groq, le modèle repose sur une architecture Mixture of Experts : 816 milliards de paramètres au total, 42 milliards actifs pour chaque token, 256 experts. Sur GroqCloud, il génère plus de 350 tokens par seconde et par utilisateur, avec un contexte de 131 072 tokens.

Architecture et caractéristiques

Environ 5 % des poids (42 milliards sur 816) sont sollicités à chaque token. C'est le principe des modèles MoE : tous les paramètres doivent résider en mémoire, mais seuls les experts sélectionnés effectuent le calcul. C'est précisément ce qui permet, en principe, à un modèle de cette taille d'offrir une vitesse de génération élevée.

L'essentiel de l'annonce :

• 816B de paramètres au total, 42B actifs par token ;
• 256 experts dans l'architecture Mixture of Experts ;
• contexte de 131 072 tokens sur GroqCloud, qui suffit, selon Groq, pour de grandes bases de code avec dépendances et code legacy ;
• entrée : texte et images, sortie : texte uniquement ;
• vitesse : plus de 350 tokens par seconde et par utilisateur ;
• entraînement sur des workflows réels de développeurs : refactorisation multi-fichiers, sessions de débogage, tâches longues.

Un agent qui explique ses étapes

Meta a conçu Muse Spark Open comme un agent dès l'origine. Le modèle planifie, agit, observe le résultat et corrige sa trajectoire sur la durée. Il sait lancer et coordonner des sous-agents, naviguer sur le web et piloter un ordinateur, que ce soit sur desktop, en environnement mobile ou dans un navigateur.

Avant chaque action, le modèle rédige une courte déclaration d'intention. Le développeur voit ce qu'il s'apprête à faire et pourquoi, et peut intervenir avant que la modification n'arrive dans le dépôt. Pour de longues tâches autonomes, cette transparence est utile en soi. Meta revendique une meilleure précision dès la première tentative et un appel d'outils fiable, mais le matériel de Groq ne contient ni chiffres précis ni benchmarks.

Pourquoi la vitesse compte pour les agents

Une tâche agentique se compose d'une chaîne d'appels au modèle, et chaque étape attend la précédente. Les latences s'additionnent. Calcul approximatif : 30 appels de 2 000 tokens représentent 60 000 tokens, soit environ trois minutes de génération pure à 350 tokens par seconde. À une vitesse trois fois inférieure, l'attente grimperait à près de neuf minutes. Ces chiffres sont illustratifs et les valeurs réelles dépendent de la tâche, mais la logique tient.

Le responsable de l'activité commerciale de Groq, Scott Albin, explique que les agents effectuent des dizaines d'appels pour une seule tâche, et qu'une inférence rapide maintient chacun d'eux dans des délais raisonnables. Groq indique que sa plateforme compte plus de six millions de développeurs, des entreprises du Fortune 500 et des milliers de startups AI-native. Elle traite des milliers de milliards de tokens par semaine depuis des datacenters situés en Amérique du Nord, en Europe, au Moyen-Orient et en APAC.

Ce que l'annonce ne dit pas

Il s'agit du communiqué d'un partenaire d'infrastructure, et la vitesse y est donnée par le fournisseur lui-même. On ne dispose d'aucune donnée sur le prix par token, les conditions de licence, les limites du preview ni sur des mesures indépendantes de la qualité. On ignore comment les plus de 350 tokens par seconde se maintiennent lorsque le contexte est entièrement rempli et que la charge parallèle est élevée.

Comment l'essayer

La demande d'accès se fait sur la page groq.com/muse-spark-open. Pour évaluer le modèle, mieux vaut utiliser votre propre tâche plutôt qu'une démo :

• lancer une refactorisation multi-fichiers sur un dépôt réel et mesurer le temps jusqu'au résultat final, et non les tokens par seconde ;
• vérifier si la base de code avec ses dépendances tient dans 131 072 tokens ;
• tester l'appel de vos outils et la proportion de tâches résolues dès la première tentative ;
• essayer de fournir des captures d'écran de l'interface lors du débogage : le modèle accepte les images.

Si Meta et Groq n'ont pas gonflé leurs chiffres, un modèle open-weight de cette classe, doté d'une telle vitesse, deviendra une alternative sérieuse aux modèles agentiques propriétaires. Pour l'instant, il faut le vérifier sur son propre code.