Bonsai 27B de PrismML: el modelo Qwen3-27B se ejecuta por primera vez en un smartphone

La startup PrismML, fundada por investigadores del Instituto Tecnológico de California (Caltech), ha presentado Bonsai 27B, el primer modelo de lenguaje de 27.000 millones de parámetros del mundo que se ha ejecutado con éxito en un smartphone. La tecnología se basa en pesos de 1 bit y ternarios, que permiten comprimir Qwen3.6-27B entre 9.4 y 14.2 veces y conservar entre el 90 y el 95 % de la calidad original.

Cómo funciona Bonsai 27B

Bonsai 27B no es una arquitectura nueva, sino una versión extremadamente optimizada del modelo abierto Qwen3.6-27B de Alibaba. PrismML ha lanzado dos variantes con distinto grado de cuantización: una ternaria (los pesos toman los valores –1, 0 o +1) y una binaria (solo –1 y +1). Este método se conoce como cuantización posentrenamiento: los pesos originales se comprimen una vez terminado el entrenamiento, sin necesidad de reentrenar el modelo desde cero.

Parámetros concretos de las dos versiones:

• Versión ternaria: 5.9 GB, unos 26 tokens por segundo en un portátil estándar
• Versión de 1 bit (binaria): 3.9 GB, cabe en la RAM de un smartphone
• Grado de compresión de los pesos: de 9.4 a 14.2 veces respecto al original
• Calidad conservada: entre el 90 y el 95 % de la Qwen3.6-27B completa
• Desarrollador: PrismML (fundada por investigadores de Caltech)

La Qwen3.6-27B original en formato fp16 pesa más de 50 GB y requiere una GPU de servidor. La variante de 1 bit de Bonsai 27B es 13 veces más pequeña.

Por qué los pesos de 1 bit cambian las reglas

En los modelos de lenguaje estándar, cada parámetro se almacena en 16 o 32 bits. Pasar a una representación de 1 bit significa que cada «peso» es, literalmente, un cero o un uno. Esto reduce de forma radical el consumo de memoria y acelera la inferencia en dispositivos sin GPU especializada.

Según la publicación de PrismML, este enfoque ha permitido ejecutar el modelo en un smartphone convencional sin conexión a la nube, algo que hace apenas un año se consideraba irreal para modelos de 27.000 millones de parámetros. Hasta ahora, los LLM móviles se limitaban a modelos de entre 1.000 y 7.000 millones de parámetros, como Gemma 2B de Google o Phi-3.5-mini de Microsoft.

«Bonsai 27B demuestra que la frontera entre la computación en la nube y la computación edge se difumina a gran velocidad», afirma el anuncio oficial de

PrismML.

Ambas variantes del modelo se han publicado en abierto en Hugging Face, por lo que los desarrolladores pueden experimentar con ellas desde ya.

Qué significa

Ejecutar un modelo de 27.000 millones de parámetros en un smartphone supone un umbral tecnológico importante: los modelos de lenguaje potentes podrán funcionar en miles de millones de dispositivos existentes sin infraestructura en la nube, con total privacidad de los datos y en modo sin conexión. Con este resultado, PrismML ha confirmado que la cuantización de 1 bit ha pasado de ser una idea académica a una herramienta práctica.

Preguntas frecuentes

¿Se puede ejecutar Bonsai 27B en un iPhone o en Android?

La versión de 1 bit, de 3.9 GB, funciona en un smartphone convencional sin conexión a la nube; es lo que PrismML ha demostrado en su anuncio.

¿En qué se diferencia Bonsai 27B de Qwen3.6-27B?

Bonsai 27B es Qwen3.6-27B con los pesos comprimidos de forma extrema. PrismML ha aplicado cuantización de 1 bit y ternaria, lo que reduce el tamaño del modelo entre 9.4 y 14.2 veces y conserva entre el 90 y el 95 % de la calidad del original.