La gigantesca MiniMax M3.1 Flash, comprimida a 144 GB: el 91,5 % de los tokens coinciden con el original
Un modelo de 428 mil millones de parámetros suele requerir un clúster de tarjetas gráficas, pero Unsloth redujo MiniMax M3.1 Flash a 2 bits por peso, y el archivo en formato GGUF pesa unos 144 GB. El modelo necesita unos 150 GB de memoria RAM convencional de una sola estación de trabajo. Con un mismo texto, la versión comprimida elige el mismo siguiente token (un fragmento de palabra) que la completa en el 91,5 % de los casos. La conclusión: un agente grande ya puede ejecutarse en local, pero conviene comprobar la calidad con tus propias tareas. En este modelo MoE, solo están activos 23 mil millones de los 428 mil millones de parámetros en cada token. El margen es pequeño: el archivo de 144 GB frente a los 150 GB de RAM recomendados. El 91,5 % mide la coincidencia de tokens, no resultados en benchmarks.
Procesado por IA desde X: @EthanLinAI; editado por Hamidun News
Hasta ahora, para ejecutar un modelo de cientos de miles de millones de parámetros había que alquilar un servidor con varias tarjetas gráficas. Ahora, MiniMax M3.1 Flash, un modelo abierto de 428 mil millones de parámetros, tiene versiones de 2 bits de Unsloth: el archivo en formato GGUF pesa unos 144 GB y funciona con unos 150 GB de memoria RAM.
Es la memoria de una estación de trabajo muy potente, no la de un centro de datos. Lo publicó en X Ethan Lin, quien también aportó la cifra del 91,5 %: es la proporción de veces en que el modelo comprimido elige el mismo siguiente token (un fragmento de palabra) que la versión completa, cuando ambos reciben el mismo texto.
La forma más sencilla de verlo es como un archivo comprimido. El modelo original ocupa cientos de gigabytes, y Unsloth lo empaquetó para que quepa en la memoria de un equipo convencional. El precio de la compresión son pequeñas diferencias en las respuestas. Veamos qué hay detrás de cada cifra.
Qué se comprimió y por qué bastan 150 GB
MiniMax M3.1 Flash sigue un esquema Mixture of Experts, de «mezcla de expertos». En total tiene 428 mil millones de parámetros, pero en cada token solo trabajan unos 23 mil millones. Es como una biblioteca enorme: hay que almacenar todas las estanterías, pero para una pregunta concreta solo se abren unas pocas. Por eso, el cálculo por token es mucho menor que en un modelo «denso» del mismo tamaño. El cuello de botella aquí es la memoria, no la capacidad de cálculo.
La memoria la ahorra la cuantización. Los pesos suelen guardarse con 16 bits por número. Si se reducen a 2 bits de media, el archivo se achica varias veces, pero los números se vuelven menos precisos. Unsloth es conocido por decidir qué capas comprimir con más intensidad y cuáles mantener más precisas. El resultado se empaqueta en GGUF, un formato que entienden los motores locales populares, como llama.cpp.
Cómo leer el 91,5 %
En la publicación se denomina top-1 token agreement. Con un mismo texto, ambos modelos predicen el siguiente token, y en el 91,5 % de los casos su opción más probable coincide. Para una compresión a 2 bits es un resultado digno, pero la métrica tiene límites.
Primero, no es una evaluación sobre tareas reales como programar o usar herramientas. Una divergencia del 8,5 % de los tokens en un texto corriente puede no cambiar nada. En una cadena larga de acciones de un agente, en cambio, puede acumularse y llevar a otra decisión.
Segundo, la cifra procede de un tuit, no de un informe independiente. No conocemos la metodología: no sabemos con qué textos se compararon los modelos ni qué longitud de contexto se usó. La publicación tampoco incluye la velocidad de generación en tokens por segundo, que para un agente interactivo es tan importante como el tamaño del archivo.
Para qué le sirve esto a desarrolladores y equipos
El umbral de entrada para los grandes modelos abiertos está bajando. Si tienes un equipo con 192 GB de memoria o más, un modelo de 428B deja de ser teórico. Esto aporta:
- Privacidad. El código, los documentos y los datos internos se quedan en tu máquina y no salen hacia una API en la nube.
- Costes predecibles. En lugar de pagar por cada token, compras el hardware una vez, lo que resulta rentable con una carga constante.
- Experimentación. Puedes comparar la versión local comprimida con la versión en la nube y ver exactamente dónde cae la calidad.
También hay limitaciones. El archivo de 144 GB y los unos 150 GB de RAM recomendados dejan poco margen para el sistema operativo y para un contexto largo, así que los contextos grandes requerirán más memoria. Además, en un modelo MoE con memoria RAM, la velocidad depende mucho del ancho de banda de la memoria. En una estación de trabajo convencional, la generación será más lenta que con un conjunto de GPU.
El consejo es sencillo: no lleves un agente a producción basándote en una sola cifra de un tuit. Toma entre 20 y 50 tareas reales de tu equipo, ejecútalas en la versión local de 2 bits y en el modelo en la nube, y compara la proporción de resultados correctos. Si la diferencia es aceptable, el despliegue local compensa por privacidad y ahorro. Si no lo es, prueba las versiones de 3 o 4 bits, cuando estén disponibles: suelen estar más cerca del original.
El autor de la publicación pregunta qué conviene ejecutar primero. Una respuesta razonable es aquello donde importan la privacidad y el gran volumen de consultas, por ejemplo, un asistente interno de código o el análisis de documentos confidenciales.
- 21 nov 2026La memoria flash para SSD se abarató entre un 19 % y un 32 % en operaciones puntuales: los discos podrían bajar de precio
- 21 nov 2026Unsloth actualizó los Qwen3.8-27B comprimidos: la precisión sube un 5–10% con el mismo tamaño
- 21 nov 2026La IA escribe código vulnerable en el 44% de las pruebas: Positive Technologies da un escáner a los agentes
- 21 nov 2026Sber lanza un altavoz con GigaChat por 14 990 rublos: entiende la voz sin internet
Preguntas frecuentes sobre la noticia
¿Qué se sabe sobre Qué se comprimió y por qué bastan 150 GB?
MiniMax M3.1 Flash sigue un esquema Mixture of Experts, de «mezcla de expertos». En total tiene 428 mil millones de parámetros, pero en cada token solo trabajan unos 23 mil millones. Es como una biblioteca enorme: hay que almacenar todas las estanterías, pero para una pregunta concreta solo se abren unas pocas. Por eso, el cálculo por token es mucho menor que en un modelo «denso» del mismo tamaño. El cuello de botella aquí es la memoria, no la capacidad de cálculo. La memoria la ahorra la cuantización.
Cómo leer el 91,5 %?
En la publicación se denomina top-1 token agreement. Con un mismo texto, ambos modelos predicen el siguiente token, y en el 91,5 % de los casos su opción más probable coincide. Para una compresión a 2 bits es un resultado digno, pero la métrica tiene límites. Primero, no es una evaluación sobre tareas reales como programar o usar herramientas. Una divergencia del 8,5 % de los tokens en un texto corriente puede no cambiar nada.
¿Qué se sabe sobre Para qué le sirve esto a desarrolladores y equipos?
El umbral de entrada para los grandes modelos abiertos está bajando. Si tienes un equipo con 192 GB de memoria o más, un modelo de 428B deja de ser teórico. Esto aporta: Privacidad. El código, los documentos y los datos internos se quedan en tu máquina y no salen hacia una API en la nube. Costes predecibles. En lugar de pagar por cada token, compras el hardware una vez, lo que resulta rentable con una carga constante. Experimentación.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
Lo esencial de la IA — una vez por semana
Siete historias que de verdad importaron, elegidas a mano. Sin ruido ni notas de prensa.
¡Listo! Revisa tu correo para la confirmación.