Intensif Gratuit 21–22/11Intensif gratuit de 2 jours en Vibecoding (21–22 nov, 16h00 MSK) · Cohorte 3 le 23/11S'inscrire gratuitement →Cohorte 3 (23/11)
SortieAnalyse · Sur le radarOllama Blog→ original

Ollama accélère l'exécution des modèles sur NVIDIA jusqu'à 20 % et active Vulkan pour AMD et Intel

Ollama, logiciel qui fait tourner des modèles d'IA directement sur votre ordinateur, a amélioré la gestion du format GGUF. Sur NVIDIA, le gain atteint jusqu'à 20 % : la mesure a été faite avec Gemma 4 26B sur une RTX 5090, en quantification Q4_K_M. Vulkan, interface graphique universelle, est désormais activé par défaut, et les cartes AMD et Intel fonctionnent sans bibliothèques propriétaires. Les modèles locaux deviennent ainsi plus simples à lancer sur le matériel déjà disponible.

Traité par IA depuis Ollama Blog ; édité par Hamidun News
Ollama accélère l'exécution des modèles sur NVIDIA jusqu'à 20 % et active Vulkan pour AMD et Intel
Source : Ollama Blog. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireOllama Blog ↗
Rédacteur en chef
Jusqu'à 20 % plus rapide sur NVIDIAles optimisations viennent des équipes NVIDIA et du projet llama.cpp
Vulkan activé par défautAMD et Intel fonctionnent sans bibliothèques supplémentaires
Modèle depuis Hugging Facefichier GGUF, Modelfile et commande ollama create

Ollama, logiciel qui fait tourner des modèles d'IA directement sur votre ordinateur plutôt que dans un cloud tiers, a publié une mise à jour comportant deux changements notables. D'abord, sur les cartes graphiques NVIDIA, les modèles fonctionnent désormais jusqu'à 20 % plus vite : c'est ce qu'a montré une mesure réalisée avec Gemma 4 26B, une RTX 5090 et une compression des poids en Q4_K_M (une méthode pour réduire la taille d'un modèle afin qu'il tienne dans la mémoire vidéo). Ensuite, Vulkan est activé par défaut.

Cette interface graphique universelle est reconnue par les cartes de différents fabricants. Les propriétaires de cartes AMD et Intel bénéficient donc d'une accélération GPU sans installer de bibliothèques propriétaires. Par ailleurs, Ollama gère mieux le GGUF, le format de fichier unifié dans lequel les modèles locaux sont publiés sur Hugging Face.

Pour un développeur, cela signifie moins de travail avec les pilotes et davantage de modèles qui se lancent d'une seule commande.

Faire tourner des réseaux de neurones sur son propre matériel n'est plus réservé aux passionnés : c'est un moyen de ne pas payer d'API, de ne pas envoyer son code ou ses documents à l'extérieur, et d'expérimenter sereinement avec des modèles ouverts. Mais l'exécution locale a toujours eu deux points faibles : toutes les cartes graphiques n'étaient pas bien prises en charge, et il fallait souvent beaucoup d'efforts pour adapter un modèle de Hugging Face à l'outil. La dernière mise à jour d'Ollama s'attaque aux deux.

Plus rapide sur NVIDIA et plus large côté matériel

Le premier changement concerne la vitesse. Selon Ollama, les performances sur le matériel NVIDIA progressent jusqu'à 20 %. Ce résultat ne doit rien à une prétendue magie des développeurs : les équipes de NVIDIA et du projet llama.cpp, sur lequel repose une grande partie de l'écosystème des modèles locaux, ont participé aux optimisations. La mesure a été réalisée avec Gemma 4 26B exécuté sur une RTX 5090, en quantification Q4_K_M. La quantification consiste à compresser les poids du modèle en diminuant leur précision, afin qu'il tienne dans la mémoire vidéo et tourne plus vite ; Q4_K_M est l'un des compromis les plus populaires entre taille et qualité.

Le second changement est l'activation de Vulkan par défaut. Grâce à lui, les appareils AMD et Intel bénéficient de l'accélération GPU, sans installer les bibliothèques du fabricant. Auparavant, ce réglage relevait souvent du parcours du combattant : choisir la bonne version de pilote, installer des composants supplémentaires, vérifier que tout était bien détecté. En principe, le modèle devrait désormais se lancer simplement sur la carte graphique.

En parallèle, Ollama a élargi sa compatibilité avec l'écosystème GGUF. La prise en charge a été étendue à Apple silicon, puis à un éventail plus large de matériels, si bien que davantage de modèles fonctionnent directement.

Comment lancer un modèle depuis Hugging Face

La procédure est simple. Vous téléchargez d'abord un fichier GGUF ou un dossier contenant de tels fichiers. Vous créez ensuite un Modelfile, un court fichier texte qui indique le chemin du modèle, par exemple : FROM ./my-model.Q4_K_M.gguf. Il vous suffit ensuite d'exécuter la commande ollama create -f Modelfile my-model et de lancer le modèle obtenu sous votre propre nom.

En pratique, cela compte : dans Ollama, il est plus simple d'intégrer non seulement les versions « officielles », mais aussi les variantes affinées publiées par la communauté et par des équipes tierces. Si vous avez besoin d'un modèle spécialisé pour votre tâche, par exemple pour du code dans un langage précis ou pour le traitement de documents, vous n'avez pas à attendre qu'il soit ajouté au catalogue.

Agents et assistants sur modèle local

Autre point : l'héritage des capacités. Si un modèle GGUF sait appeler des outils (tool calling), cette capacité est conservée dans Ollama. Il devient alors possible de le connecter aux agents de programmation et aux assistants personnels habituels en une seule commande : ollama launch claude --model my-model, ainsi que des variantes équivalentes pour hermes et openclaw. Pour vérifier qu'un fichier donné prend en charge l'appel d'outils, il faut repérer la mention correspondante dans la description du modèle.

C'est utile pour ceux qui construisent des chaînes d'agents et veulent tester leurs scénarios en local : le débogage ne génère pas de facturation de jetons, et les données restent sur la machine.

Points à garder à l'esprit

Le chiffre « jusqu'à 20 % » correspond à une configuration précise : Gemma 4 26B, RTX 5090 et Q4_K_M. Sur d'autres modèles, cartes ou quantifications, le gain peut être différent : mieux vaut comparer sur vos propres tâches. Concernant la vitesse de Vulkan sur les cartes AMD et Intel, l'annonce ne fournit aucun chiffre : il s'agit d'une extension de la couverture matérielle, et non de records de performance. Enfin, la qualité de l'appel d'outils dépend du modèle lui-même : toutes les variantes affinées ne gèrent pas les scénarios agentiques avec la même fiabilité, même lorsque la prise en charge est formellement annoncée.

Les auteurs remercient par ailleurs Georgi Gerganov et les mainteneurs de llama.cpp, ainsi que les partenaires matériels — NVIDIA, AMD, Qualcomm et Intel — pour leur travail d'optimisation au sein de l'écosystème GGML. C'est un bon signal : l'exécution locale des modèles devient de plus en plus un enjeu d'ingénierie partagé par les fabricants de puces, et non plus un sujet de niche.

En pratique : si vous reportiez vos expériences avec des modèles locaux à cause d'un matériel capricieux ou d'une préparation de fichiers trop complexe, c'est le moment d'essayer. Mettez à jour Ollama, téléchargez un GGUF depuis Hugging Face et comparez la vitesse sur votre carte graphique. Cela ne prend qu'une soirée, et le résultat vous aidera à décider quelles tâches sortir des API cloud pour les confier à votre propre machine.

Dossier

Questions clés sur cet article

Que sait-on sur Plus rapide sur NVIDIA et plus large côté matériel ?

Le premier changement concerne la vitesse. Selon Ollama, les performances sur le matériel NVIDIA progressent jusqu'à 20 %. Ce résultat ne doit rien à une prétendue magie des développeurs : les équipes de NVIDIA et du projet llama.cpp, sur lequel repose une grande partie de l'écosystème des modèles locaux, ont participé aux optimisations. La mesure a été réalisée avec Gemma 4 26B exécuté sur une RTX 5090, en quantification Q4_K_M.

Comment lancer un modèle depuis Hugging Face?

La procédure est simple. Vous téléchargez d'abord un fichier GGUF ou un dossier contenant de tels fichiers. Vous créez ensuite un Modelfile, un court fichier texte qui indique le chemin du modèle, par exemple : FROM ./my-model.Q4_K_M.gguf. Il vous suffit ensuite d'exécuter la commande ollama create -f Modelfile my-model et de lancer le modèle obtenu sous votre propre nom.

Que sait-on sur Agents et assistants sur modèle local ?

Autre point : l'héritage des capacités. Si un modèle GGUF sait appeler des outils (tool calling), cette capacité est conservée dans Ollama. Il devient alors possible de le connecter aux agents de programmation et aux assistants personnels habituels en une seule commande : ollama launch claude --model my-model, ainsi que des variantes équivalentes pour hermes et openclaw. Pour vérifier qu'un fichier donné prend en charge l'appel d'outils, il faut repérer la mention correspondante dans la description du modèle.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
Qu'en pensez-vous ?
Chargement des commentaires…