Publican en abierto los pesos de Kimi K3.1 Pro: 2,8 billones de parámetros, 104.000 millones activos

A veces las noticias más importantes llegan en una sola línea en X. La publicación de @braincramps logró apenas 13 visualizaciones, pero contiene mucha concreción: se han publicado los pesos de Kimi K3.1 Pro, un MoE de 2,8 billones de parámetros con 104.000 millones activos, 93 capas, licencia personalizada y capacidad multimodal. El autor lo llama el lanzamiento abierto más grande de la semana. La publicación no incluye confirmación de otras fuentes ni resultados de benchmarks, así que lo tratamos como una afirmación pendiente de verificar.

Qué significan estas cifras

Un MoE (mixture of experts) funciona así: el modelo tiene un enorme conjunto de «expertos», pero para cada token se activa solo una pequeña parte. Aquí son 104.000 millones de 2,8 billones, es decir, cerca del 3,7 % de los parámetros. En cómputo por token, el modelo es comparable a un modelo denso de poco más de 100.000 millones. Pero hay que mantener todo en memoria. Aritmética sencilla: en formato de 8 bits los pesos ocupan unos 2,8 TB; en 4 bits, alrededor de 1,4 TB. No se puede ejecutar en una sola máquina con varias GPU; hace falta un clúster multinodo.

De ahí la conclusión práctica. Los «pesos abiertos» a esta escala no significan «lo instalo en mi servidor». Para la mayoría de los equipos solo hay un camino real: esperar a que los proveedores de hosting desplieguen el modelo y acceder por API.

Arquitectura: un híbrido en lugar de la atención clásica

De las 93 capas, 69 son KDA y 24 son gated DSA. Es decir, aproximadamente tres cuartas partes de la pila son capas de un tipo y cerca de una cuarta parte, del otro. La publicación no explica las siglas. KDA, a juzgar por el nombre, parece remitir a la atención lineal de la línea Kimi (Kimi Delta Attention), y DSA, a la atención dispersa. Es una conjetura nuestra, no un dato de la fuente.

La razón de este diseño es bien conocida. La atención clásica se encarece con la longitud del contexto e infla la caché KV. Los híbridos con capas lineales y dispersas comprimen esa caché y abaratan el contexto largo. Si el esquema funciona en K3.1 Pro, saldrán ganando quienes trabajan con documentos largos, bases de código y cadenas de agentes, donde el contexto crece en cada paso.

Multimodalidad y licencia

Además, es un modelo de visión y lenguaje. Para los equipos de producto, esto significa que capturas de interfaces, documentos y diagramas se pueden dar al mismo modelo que el texto, sin un pipeline aparte. Aún se desconoce con qué calidad lo hace.

La licencia se describe como «custom», y es lo más importante que la publicación deja fuera. Estas licencias pueden incluir restricciones: umbrales de ingresos o de usuarios, requisitos de atribución, prohibiciones para ciertos casos de uso. Hasta que no se lea el texto, no se puede llamar al modelo open source en sentido estricto. Es más correcto hablar de pesos abiertos.

Qué hacer en la práctica

Primero, no reescribas tu stack en torno al modelo por una sola publicación. Espera mediciones independientes en tus tareas: código, tool use, trabajo con contexto largo.

Segundo, comprueba el soporte en vLLM y SGLang. Las nuevas arquitecturas híbridas suelen llegar con retraso a los motores de inferencia, y eso determina cuándo estará realmente disponible el modelo.

Tercero, haz que un abogado lea la licencia, o al menos léela con atención tú mismo, antes de incorporar el modelo a un producto comercial.

Por último, calcula la economía. Con 104.000 millones de parámetros activos, el precio por token de un proveedor puede resultar razonable. Pero los requisitos de memoria encarecerán el hosting para quienes decidan ejecutar el modelo por su cuenta. Por ahora, la conclusión principal es esta: los laboratorios chinos siguen publicando pesos de escala insignia, y eso vuelve a elevar el listón de los modelos abiertos.