TensorFold 1.2.0 aumenta un 44,2% el rendimiento de Qwen3.8-27B en el M3 Ultra con 16 flujos

El autor del motor de inferencia local TensorFold ha anunciado el lanzamiento de la versión 1.2.0. Lo principal para los propietarios de Mac: Qwen3.8-27B con pesos MLX de 4 bits y modo DFlash2 es ahora claramente más rápido que en la 1.1.9. La diferencia se nota sobre todo con carga paralela: en el M3 Ultra, el rendimiento total con 16 flujos ha subido un 44,2%. Además, la versión incorpora soporte para nuevos modelos en Metal, CUDA e Intel Arc.

Mediciones en el M3 Ultra y el M5 Ultra

La comparación se hizo con el mismo modelo: Qwen3.8-27B, pesos MLX de 4 bits y DFlash2. La referencia es TensorFold 1.1.9.

• M3 Ultra: la decodificación de un solo flujo es un 14,4% más rápida y el rendimiento total con 16 flujos es un 44,2% mayor.
• M5 Ultra: un solo flujo es un 5,8% más rápido y, con 16 flujos, el rendimiento total es un 25,2% mayor.

La diferencia entre ambos escenarios se explica por las cifras. Un flujo único está limitado por la velocidad de generación de cada token, y ahí la ganancia es modesta. Cuando hay varias solicitudes, el motor aprovecha mejor el hardware y la mejora es varias veces mayor. Para un servidor local que atiende a varios usuarios o a agentes en paralelo, esto importa más que la velocidad de un único chat.

Resulta llamativo que en el chip más nuevo, el M5 Ultra, la ganancia relativa sea menor que en el M3 Ultra. El autor no explica las causas. A juzgar por las cifras, el M5 Ultra tiene más margen de rendimiento, por lo que las optimizaciones aportan un porcentaje menor. Pero es una suposición, no una declaración del desarrollador. El anuncio no incluye valores absolutos en tokens por segundo, así que con estos datos no se pueden comparar ambos chips entre sí. Solo vemos la mejora respecto a la versión anterior en cada uno.

Por separado, el autor señala que, en los escenarios medidos, la aceleración fue acompañada de coincidencia de tokens. El texto de salida se mantuvo igual que en la 1.1.9. Por tanto, la mejora se ha conseguido sin sacrificar calidad.

Nuevos modelos y hardware

Además de la aceleración, la versión amplía la lista de configuraciones compatibles:

• MiniMax-M3.1-Flash en Metal, es decir, en Mac.
• Versión NVFP4 de Qwen3.6-35B-A3B en CUDA.
• Modelo denso Qwen3.8-27B en formato EXL3 en CUDA.
• Gemma 4 E4B en Intel Arc Pro B70.

El último punto es interesante porque TensorFold sale del eje Apple-Nvidia. Las tarjetas Intel Arc Pro rara vez aparecen en proyectos de inferencia local, y una configuración funcional ofrece una alternativa a quienes montan una estación sin Nvidia. El anuncio no indica a qué velocidad funciona Gemma 4 E4B en la Arc Pro B70, así que se trata de soporte, no de resultados de velocidad.

Qué ha cambiado en las respuestas multimodales

La versión incluye una salvedad que deben tener en cuenta quienes usan modelos visuales. Las respuestas de Qwen-VL sobre imágenes pueden diferir de las que daba la 1.1.9. El motivo es que el preprocesamiento de imágenes ahora coincide con el procesador propio del checkpoint. Antes, al parecer, divergía del de referencia, así que la diferencia corrige el comportamiento anterior más que introducir uno nuevo. Pero si comparas resultados sobre un conjunto fijo de imágenes o ejecutas pruebas de regresión, tras actualizar tendrás que recalcular las salidas.

Esta salvedad afecta específicamente a Qwen-VL. El autor confirma la coincidencia de tokens para las aceleraciones medidas, que corresponden al modelo de texto Qwen3.8-27B.

Comunidad y conclusión práctica

El autor agradeció a diecinueve participantes del proyecto en GitHub sus pull requests, revisiones, pruebas, informes de errores y acceso a hardware: AbrahamCete, akol1, alexderz, Arminova, BadAd84, BlivionIaG, BobClawblaw, fche, gilby, jrb-ai, jschmied, laudney, Mirrdhyn, mrv777, ppardus, simon-lin88, ThomasHalwax, valacroix y wojo. El agradecimiento específico por el acceso a hardware explica de dónde viene el soporte de plataformas tan distintas: es poco probable que una sola persona tenga en casa un M3 Ultra, un M5 Ultra, tarjetas Nvidia y una Intel Arc Pro.

La conclusión práctica es sencilla. Para quienes tienen un Mac Studio con M3 Ultra y ejecutan Qwen3.8-27B en MLX de 4 bits, la actualización tiene el efecto más notable con varias solicitudes simultáneas. En el M5 Ultra la mejora es menor, pero también existe. Las salvedades: las cifras proceden del anuncio del autor, no hay mediciones independientes y no se han revelado ni la metodología ni las velocidades absolutas. Antes de pasar producción a la 1.2.0, conviene probar la propia carga de trabajo y, si usas Qwen-VL, revisar de nuevo las respuestas sobre imágenes.