GPU Taskman mostra o uso de VRAM por processo em GB e ajuda a identificar a saturação da memória

Você inicia um LLM local, aumenta o contexto e a memória livre da GPU acaba. Antes de escolher um modelo menor ou comprar outra placa de vídeo, vale entender para onde foram os gigabytes. O GPU Taskman reúne o consumo de memória por processo e ajuda a associá-lo a uma carga de trabalho específica: um modelo, o navegador ou outra tarefa em execução ao mesmo tempo.

Para quem desenvolve, a utilidade é clara: visualizar o consumo antes e depois de uma mudança nas configurações. Se o problema surgiu após aumentar o contexto, comparar capturas ajuda a verificar qual processo passou a ocupar mais memória. A estimativa da composição da memória do modelo pode indicar qual hipótese testar em seguida.

O que o gerenciador de tarefas mostra

O GPU Taskman funciona no terminal. Ele reúne informações sobre o uso de memória da GPU pelos processos, a atividade da GPU, as bibliotecas carregadas e os arquivos dos modelos. Nas configurações compatíveis, é possível ver qual stack a aplicação utiliza: CUDA, Vulkan ou Direct3D. Para LLMs locais, há identificação de modelos e estimativas da memória destinada aos pesos, ao cache KV e aos buffers de trabalho.

Essas informações têm diferentes graus de confiabilidade. O contador de memória informa o consumo medido. O nome do modelo e a composição estimada desse consumo exigem indícios adicionais. A presença de uma biblioteca CUDA, por si só, não explica qual modelo está carregado nem o que ele está fazendo naquele momento. O autor também destaca o caráter experimental do programa na documentação do projeto.

Por isso, convém analisar a tela em duas etapas. Primeiro, encontrar o processo com alto consumo de memória. Depois, examinar as explicações que o utilitário conseguiu reunir sobre ele. Essa ordem ajuda a evitar que uma identificação plausível seja confundida com o resultado de uma medição direta.

Como verificar para onde a memória está indo

Considere uma situação comum: o modelo inicia, mas, após uma mudança nas configurações, a aplicação começa a apresentar erros de falta de memória. Salve uma captura inicial, altere um único parâmetro e registre os valores novamente. Para isso, o GPU Taskman oferece --once para uma leitura pontual, --json para saída em formato legível por máquina e diff para comparação.

O primeiro parâmetro a testar pode ser o tamanho do contexto. O cache KV armazena dados que o modelo utiliza ao processar uma sequência, e seu tamanho está relacionado ao contexto. Porém, o comportamento específico depende do motor e das configurações: a memória pode ser reservada antecipadamente. Por isso, é útil comparar as mesmas etapas de execução da aplicação, como o estado após carregar o modelo ou após processar a mesma consulta.

Se você alterar o modelo, o tamanho do contexto e outras configurações ao mesmo tempo, será mais difícil explicar o aumento do consumo. O objetivo prático dessa comparação é restringir a busca pela causa. Ela também ajuda a identificar outro processo que continua retendo memória depois que sua tarefa terminou. O monitor, por si só, não libera memória nem corrige as configurações do modelo.

Onde começam as limitações

O WSL exige atenção especial. Nele, as informações de memória vêm do Windows, e a associação entre os valores individuais e os processos Linux precisa ser reconstruída. O programa sinaliza as correspondências confiáveis e as suposições e pode exibir n/a quando não há dados suficientes. Antes de tirar conclusões sobre um processo específico, é preciso conferir essa indicação.

O projeto informa suporte a Windows, Linux, WSL e Apple Silicon, mas a disponibilidade de cada métrica depende da plataforma, do driver e da placa de vídeo. Uma interface comum não significa o mesmo nível de visibilidade em todas as máquinas. A divisão da memória dos LLMs também deve ser usada como pista de diagnóstico: o utilitário não lê o conteúdo da VRAM nem fornece um inventário completo dos objetos armazenados nela.

Para instalar, use uv tool install gputaskman ou pipx install gputaskman; depois, execute gputaskman ou gtm. Vale começar com um teste reproduzível usando sua própria carga de trabalho. Se as capturas ajudam a explicar o consumo de memória, a ferramenta já traz benefícios: elas oferecem uma base para alterar uma configuração específica e verificar o resultado antes de gastar tempo e dinheiro na troca de hardware.