Moonshot lanza Kimi K3: 2,8 billones de parámetros y contexto de 1 millón de tokens

Moonshot AI ha lanzado Kimi K3, un modelo de 2,8 billones de parámetros con visión nativa y un contexto de un millón de tokens. La compañía lo presenta como el primer modelo abierto de clase 3T. Está disponible en la aplicación Kimi, en el cliente de escritorio Kimi Work, en la herramienta de terminal Kimi Code y a través de la API. Moonshot promete publicar los pesos completos más adelante, junto con un informe técnico. Los propios desarrolladores matizan que, en conjunto, K3 todavía se queda por detrás de los líderes cerrados, Claude Fable 5 y GPT 5.6 Sol, pero afirman que supera de forma consistente al resto de los modelos evaluados.

Arquitectura: 16 expertos de 896

La base de K3 se apoya en dos actualizaciones. Kimi Delta Attention se encarga de escalar de forma eficiente la atención a lo largo de la longitud de la secuencia. Attention Residuals extrae representaciones de forma selectiva a lo largo de la profundidad de la red, en lugar de acumularlas de manera uniforme.

Sobre esa base, Moonshot ha aumentado la dispersión de la Mixture of Experts: por cada token se activan 16 de los 896 expertos dentro del framework Stable LatentMoE. Con tanta dispersión, el enrutamiento y el balanceo de carga se convierten en el principal problema de ingeniería, y el equipo aporta varias soluciones. Quantile Balancing construye la distribución a partir de los cuantiles de las puntuaciones del router, sin actualizaciones heurísticas ni hiperparámetros sensibles.

Per-Head Muon, por su parte, optimiza cada cabeza de atención de forma independiente.

Según la estimación de Moonshot, el conjunto ofrece una mejora de aproximadamente 2,5 veces en eficiencia de escalado frente a Kimi K2. El entrenamiento consciente de la cuantización se aplica desde la fase de SFT: pesos en MXFP4 y activaciones en MXFP8. Para la inferencia, la compañía recomienda supernodos de 64 aceleradores o más. Además, ha aportado a vLLM una implementación de caché de prefijos para KDA, que llegará junto con el modelo.

Qué ha mostrado Moonshot

La compañía se centra sobre todo en tareas agénticas de larga duración. Todas las cifras que siguen las ha publicado la propia empresa y por ahora no hay verificación independiente.

• Optimización de kernels de GPU: cuatro tareas, hasta 24 horas por modelo, en Hopper y en una GPGPU de un fabricante externo. K3 queda a la par de Fable 5 (con fallback) y supera con claridad a Opus 4.8, GPT 5.6 Sol y GPT 5.5.
• MiniTriton: un compilador al estilo de Triton, con su propio IR a nivel de tile sobre MLIR y generación de PTX. En las pruebas roofline compatibles rinde al menos igual que Triton y torch.compile, y en algunos casos es más rápido. El entrenamiento de nanoGPT sobre él converge de forma estable.
• Chip: en una sola ejecución autónoma de 48 horas, el modelo diseñó un acelerador para un nanomodelo con arquitectura propia. 4 mm², 100 MHz, 1,46 millones de celdas estándar y más de 8 700 tokens/s en simulación.
• Ciencia: reprodujo las relaciones universales I–Love–Q en astrofísica en unas dos horas, frente a una o dos semanas de trabajo de un investigador. Más de 20 artículos, más de 300 ecuaciones de estado y más de 3 000 líneas de código en Python.
• Edición de vídeo: el modelo montó por sí solo un tráiler de 56 clips, con sincronización con el ritmo de la música.

Las salvedades del propio blog son importantes. Fable 5 fue evaluado por un tercero y los resultados podrían incluir fallback. En SWE Marathon se activó en el 35% de las tareas, lo que pudo infravalorar su puntuación. Para SWE Marathon, Moonshot utilizó su propia rama de tareas, recalibrada para H20. Conviene leer con cautela la comparación con la competencia en esas condiciones.

Precio y acceso

K3 funciona en Kimi.ai, en Kimi Work 3.1.

0 y versiones posteriores (Windows y Mac con Apple silicon), en Kimi Code mediante el comando /model y en la API con el nombre kimi-k3. Las tarifas son $0,30 por millón de tokens de entrada con acierto de caché, $3,00 sin caché y $15,00 por millón de tokens de salida. Moonshot asegura que, con la arquitectura Mooncake, la tasa de aciertos de caché en escenarios de programación supera el 90%.

En sesiones agénticas largas, ese factor es el que determina la factura final. En el lanzamiento, el modo de razonamiento máximo está activado por defecto; los modos bajo y alto llegarán más adelante. Para los equipos corporativos se ofrece Kimi Enterprise, con separación entre cuentas personales y organizativas.

La conclusión práctica para los desarrolladores: si ejecutáis sesiones largas de programación, conviene comparar K3 con vuestro modelo actual en repositorios reales y calcular el coste teniendo en cuenta la caché. Quienes quieran desplegar el modelo por su cuenta tendrán que esperar a los pesos y contar con los requisitos de infraestructura: 64 aceleradores o más para una inferencia cómoda.