llama.cpp 1.0 : une interface stable, 35 fonctions supprimées et un cache pour les grands modèles MoE
Le moteur llama.cpp, sur lequel des applications font tourner des modèles d'IA en local, passe en version 1.0 : les auteurs ont déclaré stable l'ensemble des fonctions destinées à l'intégration et en ont retiré 35 obsolètes. Désormais, les programmes tiers ne devraient plus casser à chaque mise à jour. Pour les modèles MoE, où chaque mot n'active qu'une partie des « experts » et où tous ne tiennent pas dans la mémoire vidéo, un cache dédié aux plus sollicités a été ajouté. Si vous intégrez le moteur, vérifiez les appels aux fonctions supprimées.
Traité par IA depuis Latent Space (swyx) ; édité par Hamidun News
Si vous développez une application qui fait tourner un modèle de langage directement sur l'ordinateur de l'utilisateur, vous dépendez très probablement de llama.cpp. C'est un moteur open source qui transforme un fichier de poids de modèle en chatbot ou assistant fonctionnant sans cloud.
Auparavant, la moindre modification de ses fonctions internes pouvait casser un programme tiers, et les développeurs devaient le corriger en urgence. Désormais, llama.cpp et la bibliothèque ggml atteignent la version 1.
0. Dans cette publication, les auteurs ont déclaré stable l'en-tête public, c'est-à-dire la liste des fonctions par laquelle les applications se connectent au moteur, et ils en ont retiré 35 fonctions obsolètes. Deuxième nouvelle pour ceux qui font tourner de grands modèles MoE (mixture of experts, « mélange d'experts »).
Un tel modèle compte de nombreux blocs-experts distincts, mais seule une partie d'entre eux travaille sur chaque mot. Si tous les experts ne tiennent pas dans la mémoire de la carte graphique, il faut les garder dans la mémoire vive classique. Désormais, les experts les plus sollicités peuvent être placés dans un cache dédié.
Ce que signifie « 1.0 » pour le développeur
Le numéro 1.0 dans un projet open source est une promesse de stabilité. Supposons que vous ayez intégré llama.cpp dans un éditeur de notes ou un assistant d'entreprise. Auparavant, après une mise à jour du moteur, vous pouviez constater qu'une fonction dont vous aviez besoin avait été renommée ou avait disparu, et votre build cessait de compiler. Désormais, la stabilité de l'interface publique est annoncée : on peut s'appuyer sur la version 1.x sans craindre une mauvaise surprise à chaque mise à jour.
Cette stabilité a un coût, celui d'un nettoyage. 35 fonctions obsolètes ont été retirées de l'en-tête public. Si votre code en appelle ne serait-ce qu'une seule, il faudra le corriger lors du passage à la 1.0. C'est un travail ponctuel, mais mieux vaut le faire maintenant que sous la pression.
Selon la description de la version, le projet entend conserver une large couverture des plateformes et des types de modèles tout en restant « fiable et léger » pour ceux qui l'intègrent à leurs produits. Parallèlement, Hugging Face a annoncé des applications de bureau Llama reposant sur llama.cpp. Leur objectif est d'abaisser le seuil d'entrée : on peut lancer un modèle local en quelques clics, sans terminal ni compilation manuelle.
La version 1.0 a également été annoncée à la même période par ggml et par le moteur SGLang, lors du récent SGLang Summit. Pour l'écosystème de l'exécution locale et autonome des modèles, c'est le signe d'une maturité : les outils clés revendiquent la stabilité presque simultanément.
Un cache pour les experts « chauds »
Imaginez un grand modèle MoE comme une bibliothèque de plusieurs centaines de spécialistes. Pour chaque mot, seuls quelques-uns sont nécessaires, mais on ne sait pas à l'avance lesquels. La carte graphique ne peut pas tous les contenir ; les autres restent dans la mémoire vive, et chaque chargement prend du temps. La logique du nouveau cache est simple, comme celle de tout cache : les experts fréquemment sollicités restent à portée de main dans la mémoire rapide, tandis que les plus rares sont chargés à la demande.
Georgi Gerganov, auteur du projet, a présenté cette fonctionnalité, et Daniel Han-Chen en a montré le fonctionnement. La source ne donne aucun chiffre d'accélération : le gain réel dépend donc du modèle et du matériel. Il faudra le mesurer sur vos propres cas d'usage.
Ce qui reste en suspens
L'inquiétude principale de la communauté porte moins sur la technique que sur les personnes. Sous l'annonce sur Reddit, qui a recueilli environ 1 800 réactions, des utilisateurs soulignent que llama.cpp compte « énormément de tickets et de PR ouverts » et que le projet a besoin de davantage de mainteneurs. La version 1.0 rehausse les attentes : plus le projet se présente comme une base stable, plus les retards dans le traitement des bogues et l'intégration des modifications seront remarqués.
Que faire concrètement
- Si vous intégrez llama.cpp dans un produit, vérifiez lesquelles des 35 fonctions supprimées vous appelez, et migrez vers l'interface actuelle.
- Si vous faites tourner de grands modèles MoE avec une mémoire vidéo limitée, testez le cache d'experts et comparez les vitesses sur vos propres tâches.
- Si vous développez un produit pour des utilisateurs non techniques, jetez un œil aux applications de bureau Hugging Face basées sur llama.cpp.
Au final, la 1.0 n'est pas une série de fonctions spectaculaires, mais de la prévisibilité. Pour l'industrie des modèles locaux, c'est peut-être plus important qu'un nouveau record sur un benchmark.
- 21 nov. 2026Mémoire flash pour SSD : les prix chutent de 19 à 32 % sur le marché spot, les disques pourraient devenir moins chers
- 21 nov. 2026Unsloth met à jour ses versions compressées de Qwen3.8-27B : précision en hausse de 5 à 10 % à taille égale
- 21 nov. 2026L'IA écrit du code vulnérable dans 44 % des tests : Positive Technologies donne un scanner aux agents
- 21 nov. 2026Sber sort une enceinte avec GigaChat à 14 990 roubles : la voix fonctionne sans Internet
Questions clés sur cet article
Que sait-on sur Ce que signifie « 1.0 » pour le développeur ?
Le numéro 1.0 dans un projet open source est une promesse de stabilité. Supposons que vous ayez intégré llama.cpp dans un éditeur de notes ou un assistant d'entreprise. Auparavant, après une mise à jour du moteur, vous pouviez constater qu'une fonction dont vous aviez besoin avait été renommée ou avait disparu, et votre build cessait de compiler. Désormais, la stabilité de l'interface publique est annoncée : on peut s'appuyer sur la version 1.x sans craindre une mauvaise surprise à chaque mise à jour.
Que sait-on sur Un cache pour les experts « chauds » ?
Imaginez un grand modèle MoE comme une bibliothèque de plusieurs centaines de spécialistes. Pour chaque mot, seuls quelques-uns sont nécessaires, mais on ne sait pas à l'avance lesquels. La carte graphique ne peut pas tous les contenir ; les autres restent dans la mémoire vive, et chaque chargement prend du temps.
Que sait-on sur Ce qui reste en suspens ?
L'inquiétude principale de la communauté porte moins sur la technique que sur les personnes. Sous l'annonce sur Reddit, qui a recueilli environ 1 800 réactions, des utilisateurs soulignent que llama.cpp compte « énormément de tickets et de PR ouverts » et que le projet a besoin de davantage de mainteneurs. La version 1.0 rehausse les attentes : plus le projet se présente comme une base stable, plus les retards dans le traitement des bogues et l'intégration des modifications seront remarqués.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
L'essentiel de l'IA — une fois par semaine
Sept actus qui ont vraiment compté, choisies à la main. Sans bruit ni communiqués.
C'est fait ! Vérifiez votre boîte mail pour la confirmation.