Un desarrollador de Habr descifró los flags de llama.cpp: una guía en 4 partes, y solo una está lista
llama.cpp es un programa para ejecutar redes neuronales en tu propio ordenador, pero la ayuda integrada --help de sus flags es muy escueta. Un autor de Habr pasó una semana desentrañando los parámetros de llama-cli, llama-completion y llama-server, contrastándolos con el código fuente. La guía se divide en 4 partes: flags comunes, muestreo, decodificación especulativa y ajustes de utilidades concretas. Por ahora solo está lista una, así que el resto habrá que esperarlo.
Procesado por IA desde Habr AI; editado por Hamidun News
llama.cpp es un programa popular para ejecutar redes neuronales directamente en tu ordenador o servidor, sin depender de la nube. Tiene decenas de flags, y la ayuda integrada del comando --help describe cada uno en una sola línea seca. Como resultado, mucha gente copia un conjunto de parámetros de una guía ajena sin entender del todo qué es lo que ha activado. El autor de Habr quiso cubrir ese vacío: durante una semana repasó todos los argumentos y reunió una guía en ruso. Está dividida en 4 partes según las categorías de flags, y por ahora solo se ha publicado la primera.
¿Qué analiza exactamente la guía?
Se trata de tres utilidades de inferencia, es decir, para ejecutar un modelo ya preparado:
- llama-cli: trabajo con el modelo en la terminal, en formato de diálogo;
- llama-completion: generación de la continuación de un texto a partir de un inicio dado;
- llama-server: ejecución del modelo como servidor, al que se conectan otros programas.
El autor siguió la salida de los comandos «llama-cli --help» y «llama-server --help» y conservó el mismo orden. Para cada parámetro indica el nombre, la plantilla y la breve descripción de la ayuda integrada, y debajo añade un comentario detallado con sus propias palabras. Puedes tener la terminal al lado y contrastar cada flag con su explicación.
Las cuatro partes de la guía
Common Params: parámetros comunes. En su mayoría coinciden en las tres utilidades y es la parte más extensa. La serie empieza precisamente por ella, y el artículo ya publicado sirve de índice para las demás.
Sampling Params: parámetros de muestreo, es decir, las reglas con las que el modelo elige la siguiente palabra entre las opciones. Aquí entran la temperatura, top-p, top-k, min-p y algunos más. El autor reconoce que le sorprendió la cantidad de formas de ajustar el comportamiento del modelo en llama.cpp. El material aún está en preparación.
Speculative Params: ajustes de la decodificación especulativa. La idea es que un modelo auxiliar pequeño y rápido (draft) adivina varios tokens siguientes, y el modelo principal, más grande, los verifica de una vez. Si las conjeturas se confirman, el modelo grande las acepta sin generar paso a paso, y el texto aparece más rápido. Esta parte también está en preparación.
Example-Specific Params: parámetros de utilidades concretas. Por ejemplo, llama-server tiene ajustes propios de la parte servidora que no existen en llama-cli ni en llama-completion. El autor advierte de que «específicos» no significa «raros». Entre esos flags hay algunos necesarios para el uso habitual, sobre todo en el servidor. Esta parte todavía no se ha publicado.
El autor calcula unos 4 artículos, aunque admite que podrían ser más.
Cómo trabajó el autor y en qué conviene confiar
El autor reconoce con franqueza que no usa personalmente todo lo que hay en llama.cpp y que muchos parámetros los analizó junto con una IA. No copió las respuestas de los modelos: intentó entender cómo funciona cada parámetro y en qué influye, consultó el código fuente cuando hizo falta y solo después redactó el comentario. Cuando no tenía suficiente seguridad, la descripción lleva una advertencia de que podría ser imprecisa.
Tradujo la versión en inglés con ayuda de una IA, pero la revisó a mano, porque los modelos suelen elegir giros demasiado literarios para un texto técnico. La guía también se duplica en GitHub con dos páginas, en ruso e inglés, siguiendo el orden de la ayuda integrada. Las correcciones se aceptan en los comentarios de los artículos, mediante cambios en GitHub, por correo y a través del Telegram del autor.
Qué hacer con esto
Si montas modelos locales para desarrollo, chatbots o servicios internos, guarda la primera parte en marcadores y consúltala como referencia, en lugar de leerla de corrido. Pero ten en cuenta las limitaciones: está lista una parte de unas cuatro, el autor no pretende una completitud ni una precisión absolutas, y parte de las descripciones puede contener imprecisiones. Conviene verificar los valores de los parámetros en tu propia compilación de llama.cpp, porque el conjunto de flags cambia de una versión a otra. Según la descripción, las secciones más útiles serán las de muestreo y decodificación especulativa, pero habrá que esperar. Atento a la actualización del índice en el primer artículo.
- 21 nov 2026Hermes permite trasladar un agente local a la nube con una sola acción desde Desktop
- 21 nov 2026Apple rediseña la protección del Mac en macOS 27.3 por los agentes de IA con acceso total al disco
- 21 nov 2026La cuantización en OpenVINO redujo en un 75,4 % el tiempo de ejecución de CLIP para LanceDB en CPU
- 21 nov 2026LanceDB: el índice IVF_PQ comprime los vectores para RAG 64 veces y acelera la búsqueda
Preguntas frecuentes sobre la noticia
¿Qué analiza exactamente la guía?
Se trata de tres utilidades de inferencia, es decir, para ejecutar un modelo ya preparado: llama-cli: trabajo con el modelo en la terminal, en formato de diálogo; llama-completion: generación de la continuación de un texto a partir de un inicio dado; llama-server: ejecución del modelo como servidor, al que se conectan otros programas. El autor siguió la salida de los comandos «llama-cli --help» y «llama-server --help» y conservó el mismo orden.
¿Qué se sabe sobre Las cuatro partes de la guía?
Common Params: parámetros comunes. En su mayoría coinciden en las tres utilidades y es la parte más extensa. La serie empieza precisamente por ella, y el artículo ya publicado sirve de índice para las demás. Sampling Params: parámetros de muestreo, es decir, las reglas con las que el modelo elige la siguiente palabra entre las opciones. Aquí entran la temperatura, top-p, top-k, min-p y algunos más. El autor reconoce que le sorprendió la cantidad de formas de ajustar el comportamiento del modelo en llama.cpp.
Cómo trabajó el autor y en qué conviene confiar?
El autor reconoce con franqueza que no usa personalmente todo lo que hay en llama.cpp y que muchos parámetros los analizó junto con una IA. No copió las respuestas de los modelos: intentó entender cómo funciona cada parámetro y en qué influye, consultó el código fuente cuando hizo falta y solo después redactó el comentario. Cuando no tenía suficiente seguridad, la descripción lleva una advertencia de que podría ser imprecisa.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
Lo esencial de la IA — una vez por semana
Siete historias que de verdad importaron, elegidas a mano. Sin ruido ni notas de prensa.
¡Listo! Revisa tu correo para la confirmación.