Groq lanza Meta Muse Spark Open: 816B parámetros y más de 350 tokens/s

Meta ha lanzado Muse Spark Open, un modelo open-weight para programación agéntica, y Groq lo integró en GroqCloud el día del lanzamiento. Por ahora está en limited preview. Según Groq, el modelo es un Mixture of Experts con 816 mil millones de parámetros en total, 42 mil millones activos por cada token y 256 expertos. En GroqCloud ofrece más de 350 tokens por segundo por usuario con un contexto de 131 072 tokens.

Arquitectura y características

Por cada token trabaja alrededor del 5% de los pesos (42 de 816 mil millones). Así funcionan los modelos MoE: hay que mantener todos los parámetros en memoria, pero solo se calculan los expertos seleccionados. Por eso un modelo de este tamaño puede, en principio, ofrecer una alta velocidad de generación.

Lo principal del anuncio:

• 816B parámetros en total, 42B activos por token;
• 256 expertos en la arquitectura Mixture of Experts;
• contexto de 131 072 tokens en GroqCloud, que según Groq basta para grandes bases de código con dependencias y código heredado;
• entrada: texto e imágenes; salida: solo texto;
• velocidad: más de 350 tokens por segundo por usuario;
• entrenamiento con flujos de trabajo reales de desarrolladores: refactorización en varios archivos, sesiones de depuración y tareas largas.

Un agente que explica sus pasos

Meta diseñó Muse Spark Open como agente desde el principio. El modelo planifica, actúa, revisa el resultado y corrige el rumbo a largo plazo. Puede lanzar y coordinar subagentes, navegar por la web y trabajar con el ordenador en entornos de escritorio, móvil y navegador.

Antes de cada acción, el modelo escribe una breve declaración de intenciones. El desarrollador ve qué va a hacer y por qué, y puede intervenir antes de que el cambio llegue al repositorio. En tareas autónomas largas, esa transparencia resulta útil por sí misma. Meta afirma que el modelo logra mayor precisión a la primera y una llamada fiable a herramientas, pero el material de Groq no incluye cifras concretas ni benchmarks.

Por qué la velocidad importa para los agentes

Una tarea agéntica consiste en una cadena de llamadas al modelo, y cada paso espera al anterior. Las latencias se acumulan. Un cálculo aproximado: 30 llamadas de 2 000 tokens suman 60 000 tokens, y a 350 tokens por segundo eso son unos tres minutos de generación pura. Con una velocidad tres veces menor, la espera subiría a casi nueve minutos. Las cifras son ilustrativas y las reales dependen de la tarea, pero la lógica es clara.

El responsable del área comercial de Groq, Scott Albin, explica que los agentes hacen decenas de llamadas para una sola tarea y que una inferencia rápida mantiene cada una de ellas dentro de límites razonables. Groq indica que en su plataforma trabajan más de seis millones de desarrolladores, empresas de Fortune 500 y miles de startups AI-native. Procesa billones de tokens por semana desde centros de datos en Norteamérica, Europa, Oriente Medio y APAC.

Qué falta en el anuncio

Se trata de una nota de prensa de un socio de infraestructura, y la velocidad la aporta el propio proveedor. No hay datos sobre el precio por token, las condiciones de la licencia, los límites del preview ni mediciones independientes de calidad. Tampoco se sabe cómo se sostiene la velocidad de más de 350 tokens por segundo con el contexto completamente lleno y una alta carga paralela.

Cómo probarlo

La solicitud de acceso se presenta en la página groq.com/muse-spark-open. Para evaluarlo, conviene usar una tarea propia en lugar de una demo:

• ejecutar una refactorización en varios archivos sobre un repositorio real y medir el tiempo hasta el resultado final, no los tokens por segundo;
• comprobar si la base de código con sus dependencias cabe en 131 072 tokens;
• probar la llamada a sus propias herramientas y la proporción de tareas resueltas a la primera;
• intentar pasar capturas de pantalla de la interfaz durante la depuración, ya que el modelo acepta imágenes.

Si Meta y Groq no han inflado las cifras, un modelo open-weight de esta clase y con tanta velocidad será una alternativa seria a los modelos agénticos cerrados. Por ahora, hay que comprobarlo con el código propio.