Ollama 0.1.5: Qwen3-Coder-Next y las alegrías de ejecutar modelos en local

Ollama se ha actualizado a la versión 0.15.5 y añade compatibilidad con nuevos modelos. Destaca sobre todo Qwen3-Coder-Next. Está orientado a la generación de código y promete ser una herramienta potente para desarrolladores, pero, como suele ocurrir, el alto rendimiento tiene un coste en recursos.

Qwen3-Coder-Next es un modelo de 80.000 millones de parámetros, la mayor parte entrenados con código. Eso le permite lograr resultados impresionantes en tareas de programación. Ahora bien, ejecutarlo en local requiere hardware serio. En concreto, en Ollama solo están disponibles versiones cuantizadas del modelo (q4_K_M, de 52 GB, y q8_0, de 85 GB), lo que ya anticipa su voracidad.

Para trabajar con comodidad con Qwen3-Coder-Next harán falta no menos de 80 GB de memoria de vídeo si se quiere una velocidad de inferencia alta. También se puede ejecutar en CPU con 128 GB o más de RAM DDR5, pero la velocidad será bastante menor. Esto hace que Qwen3-Coder-Next no sea la opción más accesible para un usuario medio, lo que, según señala el autor del artículo original, suele provocar reacciones negativas.

Curiosamente, el autor ofrece acceso gratuito a su servidor, que ya tiene cargados 10 modelos distintos, entre ellos Qwen3-Coder-Next. Es una buena oportunidad para quienes no pueden ejecutar el modelo en local pero quieren probarlo. Eso sí, conviene tener en cuenta que el acceso no es indefinido y se cerrará cuando termine la configuración de un sistema RAG (Retrieval-Augmented Generation). El autor también advierte de que desconectará a los usuarios que intenten sobrecargar el servidor.

En conjunto, la llegada de Qwen3-Coder-Next a Ollama es un paso importante para los LLM locales. Permite a los desarrolladores acceder a un modelo potente de generación de código sin depender de servicios en la nube. Sin embargo, los altos requisitos de recursos siguen siendo un obstáculo serio para su adopción masiva. La oferta del autor de acceso gratuito al servidor es una buena oportunidad para quienes quieren probar Qwen3-Coder-Next pero no tienen el equipo necesario. Además, refleja una tendencia creciente hacia soluciones de IA locales y autosuficientes que dan a los usuarios más control sobre sus datos y sus recursos de cómputo.

En definitiva, Ollama sigue evolucionando y ofrece acceso a modelos de vanguardia, pero conviene recordar que los requisitos de hardware no dejan de crecer. Probar Qwen3-Coder-Next en el servidor del autor es una oportunidad valiosa para evaluar el potencial de estos modelos y saber si uno está preparado para dar el salto a un equipo más potente.