Un développeur de Habr a décrypté les options de llama.cpp : un guide en 4 parties, la première est prête
llama.cpp est un outil qui permet de faire tourner des réseaux de neurones sur son propre ordinateur, mais l'aide intégrée --help décrit ses options de façon très succincte. Pendant une semaine, l'auteur de Habr a étudié les paramètres de llama-cli, llama-completion et llama-server en se référant au code source. Le guide se divise en 4 parties : options communes, échantillonnage, décodage spéculatif et réglages propres à chaque utilitaire. Seule la première est prête pour l'instant, il faudra donc patienter pour le reste.
Traité par IA depuis Habr AI ; édité par Hamidun News
llama.cpp est un outil populaire pour faire tourner des réseaux de neurones directement sur son propre ordinateur ou serveur, sans passer par le cloud. Il propose des dizaines d'options, et l'aide intégrée à la commande --help décrit chacune en une seule ligne sèche. Résultat : beaucoup de gens recopient un ensemble de paramètres issu d'un guide tiers sans vraiment comprendre ce qu'ils activent. L'auteur de Habr a voulu combler cette lacune : en une semaine, il a parcouru tous les arguments et rédigé un guide en russe. Il se divise en 4 parties selon les catégories d'options, et seule la première est publiée pour l'instant.
Ce que détaille le guide
Il s'agit des trois utilitaires d'inférence, c'est-à-dire ceux qui exécutent un modèle déjà entraîné :
- llama-cli — utilisation du modèle dans le terminal, sous forme de dialogue ;
- llama-completion — génération de la suite d'un texte à partir d'un début donné ;
- llama-server — lancement du modèle comme serveur, auquel d'autres programmes peuvent se connecter.
L'auteur a suivi le résultat des commandes « llama-cli --help » et « llama-server --help » et a conservé le même ordre. Pour chaque paramètre, il indique le nom, le modèle de syntaxe et la brève description de l'aide intégrée, suivis d'un commentaire développé formulé avec ses propres mots. On peut garder le terminal ouvert à côté et vérifier chaque option avec son explication.
Les quatre parties du guide
Common Params — paramètres communs. Ils sont en grande partie identiques pour les trois utilitaires, et c'est la partie la plus volumineuse. La série commence par elle, et l'article déjà publié sert de sommaire pour la suite.
Sampling Params — paramètres d'échantillonnage, c'est-à-dire les règles qui déterminent le choix du mot suivant parmi les candidats. On y trouve la température, top-p, top-k, min-p et d'autres encore. L'auteur avoue avoir été très surpris par le nombre de façons de régler le comportement du modèle dans llama.cpp. Ce volet est en cours de rédaction.
Speculative Params — réglages du décodage spéculatif. L'idée : un petit modèle rapide dit « draft » devine plusieurs tokens suivants, puis le grand modèle principal les vérifie d'un coup. Si les suppositions sont confirmées, le grand modèle les accepte sans générer pas à pas, et le texte apparaît plus vite. Cette partie est également en cours de rédaction.
Example-Specific Params — paramètres propres à chaque utilitaire. Par exemple, llama-server dispose de réglages pour sa partie serveur que n'ont ni llama-cli ni llama-completion. L'auteur met en garde : « spécifique » ne signifie pas « rare ». Parmi ces options, certaines sont indispensables à un usage régulier, notamment pour le serveur. Cette partie n'est pas encore publiée.
L'auteur prévoit environ 4 articles, tout en précisant qu'il pourrait y en avoir davantage.
Méthode de travail et crédibilité
L'auteur reconnaît honnêtement qu'il n'utilise pas lui-même la plupart des fonctions de llama.cpp, et qu'il a analysé de nombreux paramètres avec l'aide d'une IA. Il n'a pas recopié les réponses des modèles : il a cherché à comprendre comment fonctionne chaque paramètre et ce qu'il influence, en lisant au besoin le code source, avant de rédiger son commentaire. Lorsqu'il manquait de certitude, la description est accompagnée d'une remarque indiquant qu'elle peut être imprécise.
La version anglaise a été traduite avec l'aide d'une IA, mais relue manuellement : les modèles choisissent souvent des tournures trop littéraires pour un texte technique. Le guide est également dupliqué sur GitHub, en deux pages, russe et anglais, suivant l'ordre de l'aide intégrée. Les corrections sont les bienvenues dans les commentaires des articles, sous forme de modifications sur GitHub, par e-mail ou via Telegram, auprès de l'auteur.
Que faire de tout cela
Si vous déployez des modèles en local pour du développement, des chatbots ou des services internes, ajoutez la première partie à vos favoris et consultez-la comme une référence plutôt que de la lire d'un bout à l'autre. Gardez toutefois à l'esprit les limites : une seule partie sur environ quatre est disponible, l'auteur ne prétend ni à l'exhaustivité ni à l'exactitude absolue, et certaines descriptions peuvent contenir des imprécisions. Vérifiez les valeurs des paramètres sur votre propre build de llama.
cpp, car le jeu d'options évolue d'une version à l'autre. Selon la description, les sections les plus utiles seront celles sur l'échantillonnage et le décodage spéculatif, mais il faudra attendre pour les lire. Surveillez la mise à jour du sommaire dans le premier article.
- 21 nov. 2026Mémoire flash pour SSD : les prix chutent de 19 à 32 % sur le marché spot, les disques pourraient devenir moins chers
- 21 nov. 2026Unsloth met à jour ses versions compressées de Qwen3.8-27B : précision en hausse de 5 à 10 % à taille égale
- 21 nov. 2026L'IA écrit du code vulnérable dans 44 % des tests : Positive Technologies donne un scanner aux agents
- 21 nov. 2026Sber sort une enceinte avec GigaChat à 14 990 roubles : la voix fonctionne sans Internet
Questions clés sur cet article
Que sait-on sur Ce que détaille le guide ?
Il s'agit des trois utilitaires d'inférence, c'est-à-dire ceux qui exécutent un modèle déjà entraîné : llama-cli — utilisation du modèle dans le terminal, sous forme de dialogue ; llama-completion — génération de la suite d'un texte à partir d'un début donné ; llama-server — lancement du modèle comme serveur, auquel d'autres programmes peuvent se connecter. L'auteur a suivi le résultat des commandes « llama-cli --help » et « llama-server --help » et a conservé le même ordre.
Que sait-on sur Les quatre parties du guide ?
Common Params — paramètres communs. Ils sont en grande partie identiques pour les trois utilitaires, et c'est la partie la plus volumineuse. La série commence par elle, et l'article déjà publié sert de sommaire pour la suite. Sampling Params — paramètres d'échantillonnage, c'est-à-dire les règles qui déterminent le choix du mot suivant parmi les candidats. On y trouve la température, top-p, top-k, min-p et d'autres encore.
Que sait-on sur Méthode de travail et crédibilité ?
L'auteur reconnaît honnêtement qu'il n'utilise pas lui-même la plupart des fonctions de llama.cpp, et qu'il a analysé de nombreux paramètres avec l'aide d'une IA. Il n'a pas recopié les réponses des modèles : il a cherché à comprendre comment fonctionne chaque paramètre et ce qu'il influence, en lisant au besoin le code source, avant de rédiger son commentaire. Lorsqu'il manquait de certitude, la description est accompagnée d'une remarque indiquant qu'elle peut être imprécise.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
L'essentiel de l'IA — une fois par semaine
Sept actus qui ont vraiment compté, choisies à la main. Sans bruit ni communiqués.
C'est fait ! Vérifiez votre boîte mail pour la confirmation.