GPU Taskman muestra el uso de VRAM por proceso en GB y ayuda a detectar la saturación de memoria

Ejecutas un LLM local, aumentas la longitud del contexto y se agota la memoria libre de la GPU. Antes de elegir un modelo más pequeño o comprar otra tarjeta gráfica, conviene entender adónde han ido los gigabytes. GPU Taskman recopila el consumo de memoria por proceso y ayuda a relacionarlo con una carga de trabajo concreta: un modelo, el navegador u otra tarea que se esté ejecutando en paralelo.

Para los desarrolladores, la utilidad es clara: obtener una imagen del consumo antes y después de cambiar la configuración. Si el problema apareció al aumentar la longitud del contexto, comparar capturas permite comprobar qué proceso empezó a ocupar más memoria. La estimación del desglose de memoria del modelo puede orientar sobre qué hipótesis poner a prueba a continuación.

Qué muestra el administrador de tareas

GPU Taskman funciona en la terminal. Reúne información sobre la memoria de GPU utilizada por los procesos, la actividad de la GPU, las bibliotecas cargadas y los archivos de los modelos. En las configuraciones compatibles, permite ver qué pila utiliza una aplicación: CUDA, Vulkan o Direct3D. Para los LLM locales, ofrece identificación de modelos y estimaciones de la memoria destinada a los pesos, la caché KV y los búferes de trabajo.

Estos datos tienen distintos grados de fiabilidad. El contador de memoria informa del consumo medido. El nombre del modelo y el desglose estimado de ese consumo requieren indicios adicionales. La presencia de una biblioteca CUDA, por sí sola, no explica qué modelo está cargado ni qué está haciendo en ese momento. El autor también señala expresamente el carácter experimental del programa en la documentación del proyecto.

Por eso conviene examinar la pantalla en dos pasos. Primero, localizar el proceso con un consumo elevado de memoria. Después, revisar las explicaciones que la utilidad ha podido reunir sobre él. Este orden ayuda a no confundir una etiqueta verosímil con el resultado de una medición directa.

Cómo comprobar adónde va la memoria

Pensemos en una situación habitual: el modelo arranca, pero después de cambiar la configuración la aplicación empieza a mostrar errores de memoria insuficiente. Guarda una captura inicial, cambia un solo parámetro y vuelve a registrar los valores. GPU Taskman ofrece --once para obtener una lectura puntual, --json para generar una salida legible por máquinas y diff para comparar capturas.

El primer parámetro que conviene comprobar puede ser la longitud del contexto. La caché KV almacena datos que el modelo utiliza al procesar una secuencia, y su tamaño está relacionado con el contexto. Sin embargo, el comportamiento concreto depende del motor y de la configuración: la memoria puede reservarse de antemano. Por eso resulta útil comparar las mismas fases de ejecución de la aplicación, por ejemplo, el estado tras cargar el modelo o después de procesar la misma consulta.

Si cambias a la vez el modelo, el tamaño del contexto y otros ajustes, será más difícil explicar el aumento del consumo. El objetivo práctico de esta comparación es acotar la causa. También ayuda a detectar otro proceso que siga reteniendo memoria después de que tu tarea haya terminado. El monitor no libera memoria ni corrige la configuración del modelo.

Dónde empiezan las limitaciones

WSL requiere especial atención. Allí, la información sobre la memoria procede de Windows, y hay que reconstruir la correspondencia entre los valores individuales y los procesos de Linux. El programa distingue las correspondencias fiables de las conjeturas y puede mostrar n/a cuando faltan datos. Antes de sacar conclusiones sobre un proceso concreto, hay que revisar esa indicación.

El proyecto anuncia compatibilidad con Windows, Linux, WSL y Apple Silicon, aunque la disponibilidad de cada métrica depende de la plataforma, el controlador y la tarjeta gráfica. Una interfaz común no implica el mismo nivel de visibilidad en todos los equipos. El desglose de memoria de los LLM también debe utilizarse como una pista de diagnóstico: la utilidad no lee el contenido de la VRAM ni ofrece un inventario completo de los objetos almacenados en ella.

Para instalarlo, utiliza uv tool install gputaskman o pipx install gputaskman; después puedes ejecutar gputaskman o gtm. Conviene empezar con una prueba reproducible sobre tu propia carga de trabajo. Si las capturas ayudan a explicar el consumo de memoria, la herramienta ya aporta valor: ofrecen una base para cambiar un ajuste concreto y comprobar el resultado antes de invertir tiempo y dinero en sustituir el hardware.