Ollama 0.1.5 : Qwen3-Coder-Next et les joies de l'exécution en local

Ollama passe à la version 0.15.5 et prend en charge de nouveaux modèles. Qwen3-Coder-Next se démarque tout particulièrement. Conçu pour la génération de code, il promet d'être un outil puissant pour les développeurs, mais, comme souvent, les hautes performances s'accompagnent d'exigences élevées en ressources.

Qwen3-Coder-Next est un modèle de 80 milliards de paramètres, dont la plupart ont été entraînés sur du code. Cela lui permet d'obtenir des résultats impressionnants sur les tâches de programmation. En revanche, l'exécuter en local demande du matériel sérieux. Dans Ollama, seules des versions quantifiées du modèle sont disponibles (q4_K_M de 52 Go et q8_0 de 85 Go), ce qui laisse déjà deviner sa gourmandise.

Pour travailler confortablement avec Qwen3-Coder-Next, il faudra au moins 80 Go de mémoire vidéo si l'on veut une vitesse d'inférence élevée. On peut aussi l'exécuter sur CPU avec 128 Go ou plus de RAM DDR5, mais la vitesse sera nettement inférieure. Qwen3-Coder-Next n'est donc pas la solution la plus accessible pour un utilisateur lambda, ce qui, comme le relève l'auteur de l'article original, suscite souvent une réaction négative.

Fait intéressant, l'auteur propose un accès gratuit à son serveur, sur lequel 10 modèles différents sont déjà chargés, dont Qwen3-Coder-Next. C'est une bonne occasion pour ceux qui ne peuvent pas exécuter le modèle en local mais veulent le tester. Il faut toutefois savoir que cet accès n'est pas éternel et sera fermé une fois la configuration d'un système RAG (Retrieval-Augmented Generation) terminée. L'auteur prévient également qu'il déconnectera les utilisateurs qui tenteront de surcharger le serveur.

Dans l'ensemble, l'arrivée de Qwen3-Coder-Next dans Ollama marque une étape importante pour les LLM locaux. Elle permet aux développeurs d'accéder à un modèle puissant de génération de code sans dépendre de services cloud. Les exigences élevées en ressources restent cependant un obstacle sérieux à une adoption large de ce type de modèles. L'offre d'accès gratuit au serveur est une bonne occasion pour ceux qui veulent tester Qwen3-Coder-Next sans disposer du matériel nécessaire. Elle illustre aussi la tendance croissante aux solutions d'IA locales et autonomes, qui donnent aux utilisateurs plus de contrôle sur leurs données et leurs ressources de calcul.

Ollama continue donc d'évoluer et donne accès à des modèles de pointe, mais il faut garder à l'esprit que les exigences matérielles ne cessent de croître. Tester Qwen3-Coder-Next sur le serveur de l'auteur est une chance précieuse d'évaluer le potentiel de ces modèles et de savoir si l'on est prêt à passer à un matériel plus puissant.