llm-checker: una utilidad muestra qué LLMs puede ejecutar tu hardware

Una de las preguntas más frecuentes que se hacen los entusiastas de ejecutar modelos de lenguaje localmente suena engañosamente simple: ¿podrá mi hardware con ello? Hasta ahora, la respuesta había que recopilarla a partir de benchmarks dispersos, discusiones en Reddit y pruebas de ensayo y error. Una nueva herramienta de código abierto, llm-checker, intenta responder esta pregunta con un único comando en la terminal.

llm-checker es una utilidad CLI que escanea la configuración de hardware de una computadora y proporciona un veredicto concreto: qué modelos de lenguaje del ecosistema Ollama puedes ejecutar, a qué velocidad y con qué calidad. La herramienta analiza tres componentes clave — GPU, RAM y CPU — y basándose en estos datos produce un informe personalizado para más de 35 modelos, desde modelos compactos de un parámetro hasta impresionantes de 32 mil millones de parámetros.

Para entender por qué esto es importante, vale la pena recordar el contexto. Durante los últimos dos años, el movimiento para ejecutar grandes modelos de lenguaje localmente se ha transformado de un hobby marginal en una dirección consolidada. Ollama se ha convertido en el estándar de facto para quienes quieren ejecutar un LLM en su propia computadora sin suscripciones en la nube y sin enviar datos a servidores de terceros.

Llama, Mistral, Gemma, Phi, DeepSeek, Qwen — el número de modelos disponibles crece cada mes, y cada uno de ellos tiene sus propios requisitos de hardware. El problema es que estos requisitos no están sistematizados en relación a configuraciones específicas en ningún lado. Una persona con una RTX 3060 con 12 gigabytes de memoria de vídeo y 32 gigabytes de RAM se ve obligada a averiguar por sí misma si podrá ejecutar Llama 3.

1 con 8 mil millones de parámetros en cuantización Q4, o si ni siquiera debería intentarlo.

Este es exactamente el vacío entre la abundancia de modelos y la opacidad de los requisitos de hardware que cierra llm-checker. La utilidad funciona de la forma más directa posible: ejecutas un comando, escanea el sistema, compara las características con una base de conocimiento interna sobre modelos y proporciona el resultado. Cada modelo se evalúa en tres ejes — compatibilidad (¿se ejecutará?), velocidad (¿será cómoda la generación de tokens?) y calidad (¿tendrás que sacrificar precisión por rendimiento?). Estos no son puntuaciones abstractas, sino información prácticamente útil que ahorra horas de experimentación.

Merece especial atención el enfoque para curar la lista de modelos. Los autores deliberadamente rechazaron el análisis automático de todo el catálogo Ollama y en su lugar moderan la lista manualmente. Esta es una decisión de principios: el catálogo Ollama contiene cientos de modelos de calidad variada, incluyendo modelos obsoletos, experimentales y francamente inútiles. La curación manual significa que los usuarios reciben recomendaciones solo para modelos verificados y actuales que realmente vale la pena ejecutar. En un mundo donde el número de LLMs abiertos se duplica cada pocos meses, tal filtro no es una limitación, sino una ventaja.

Técnicamente, la herramienta resuelve una tarea no trivial. El rendimiento de un LLM local depende de muchos factores: la cantidad de memoria de vídeo determina si el modelo cabe completamente en la GPU; la velocidad de la RAM afecta la descarga de capas que no caben en VRAM; la arquitectura del CPU es importante para modelos que funcionan en modo CPU. La cuantización añade otra dimensión — el mismo modelo en formato Q8 podría no caber en la memoria, pero en Q4 funciona, aunque con una pérdida notable de calidad. llm-checker asume todos estos cálculos y los traduce en recomendaciones comprensibles.

En un contexto más amplio, la aparición de tales herramientas señala la maduración del ecosistema de IA local. Cuando la tecnología sale del círculo de desarrolladores y entusiastas, necesita puentes entre la complejidad y la simplicidad. llm-checker es uno de esos puentes. No hace nada revolucionario desde el punto de vista tecnológico, pero resuelve un problema real del usuario que hasta ahora ha sido ignorado.

Por supuesto, la herramienta tiene limitaciones obvias. La vinculación a Ollama significa que los usuarios de llama.cpp, vLLM u otros backends quedan fuera. La moderación manual de la lista de modelos es simultáneamente una fortaleza y una debilidad, porque la relevancia depende de la actividad de los mantenedores. El rendimiento real siempre diferirá de las predicciones, porque se ve afectado por docenas de variables que es imposible contabilizar remotamente — desde la temperatura de la GPU bajo carga hasta procesos de fondo en el sistema.

Sin embargo, llm-checker apunta en la dirección correcta. A medida que la ejecución local de LLM se convierte en algo convencional — y todas las tendencias apuntan a esto — la necesidad de herramientas simples de diagnóstico y recomendación solo crecerá. Hoy es una utilidad CLI para usuarios avanzados. Mañana, una funcionalidad similar podría muy bien convertirse en parte incorporada del propio Ollama o sus análogos. Porque la mejor manera de atraer usuarios a la IA local es eliminar la barrera de la incertidumbre y proporcionar una respuesta honesta a una pregunta simple: ¿qué exactamente puedo ejecutar ahora mismo.