QVikhr-3-4B em VPS de 1,5 mil ₽ sem GPU classificou corretamente 20 de 20 solicitações

Muitas tarefas de trabalho com texto — triar uma solicitação de suporte, extrair telefone e orçamento de um e-mail, entender se o autor de uma avaliação ficou satisfeito — não exigem um modelo de fronteira caro. Seria como martelar prego com microscópio. Só que rodar um grande modelo aberto por conta própria é complicado: é preciso ter GPUs, que ainda é preciso encontrar, e nem todo mundo quer enviar dados de clientes para uma API na nuvem.

Além disso, as leis de proteção de dados pessoais empurram para a execução local. O autor do artigo no Habr testou a opção mais barata: um VPS da Justhost.ru com template do Ollama por 1,5 mil ₽ ao mês (4 vCPU Intel Xeon Gold 6148, 4 GB de RAM, sem placa de vídeo).

Nele, rodou nove modelos leves em sete tarefas de negócio e em um teste de carga. O resultado: o melhor deles, o QVikhr-3-4B, definiu corretamente a categoria das 20 solicitações de 20 (100%), gastando 3,5 s em cada uma. Na prática, dá para entregar a esse tipo de servidor a rotina de textos curtos, mas convém verificar as respostas do modelo por código e deixar os textos longos para processamento em segundo plano.

Que servidor é esse e quais modelos participaram

Entraram no teste o llama3.2:1b (pré-instalado no template), o gemma3:1b e o gemma3:4b, do Google, o qwen3.5:2b e o qwen3.5:4b, da Alibaba, o híbrido granite4:micro-h, da IBM, dois modelos da Liquid AI (LFM2.5-1.2B-Instruct e LFM2.5-2.6B) e o QVikhr-3-4B-Instruction, ajustado para russo. Para a busca na base de conhecimento (RAG), foram adicionados os embeddings bge-m3. Os modelos russos GigaChat 3.1 Lightning, T-lite e YandexGPT-5-Lite não couberam em 4 GB.

O template se mostrou voltado a um único modelo pequeno e a chat. O Open WebUI ocupa cerca de um gigabyte — um quarto de toda a memória —, por isso foi preciso pará-lo para rodar os modelos de 4B. Também foi necessário um swap de 4 GB: sem ele, o kernel matava os modelos em textos longos. O llama3.2:1b pré-instalado foi o pior dos nove: errou 7 das 20 solicitações e, em três perguntas cujas respostas não estavam na base de conhecimento, inventou as suas próprias.

O que funciona

Classificação de solicitações: QVikhr-3-4B, as duas versões do qwen3.5 e o gemma3:4b não erraram nenhuma vez. O QVikhr, porém, é três vezes mais rápido que o qwen3.5:4b (cerca de 1000 solicitações por hora contra 312): ele reaproveita o prompt de sistema já lido, enquanto os híbridos qwen3.5, granite e gemma3 o leem de novo a cada vez. Em CPU, esse é o principal fator de velocidade.

Tom das avaliações: QVikhr e qwen3.5:4b acertaram 22 de 24, e o QVikhr foi duas vezes mais rápido. Quase nenhum modelo reconheceu sarcasmo, então avaliações com texto positivo, mas nota baixa em estrelas, é melhor encaminhar a uma pessoa.

Extração de dados de requisições: o qwen3.5:4b retornou 59 campos de 60 e não inventou nada. Mas nenhum modelo transformou a expressão «até sexta-feira», em um e-mail de terça-feira, 20.10, em 23.10, por isso as datas devem ser calculadas por código. Ajustes no prompt ajudaram o qwen, mas o gemma3:4b piorou (de 57 para 54 campos), então as regras precisam ser testadas em cada modelo separadamente.

RAG: QVikhr, as duas versões do qwen3.5 e o granite responderam corretamente a 14 de 15 perguntas e escreveram com honestidade «não há informação na base». A resposta leva de 40 a 95 segundos — serve para um assistente interno, mas não para um chat com clientes.

Anúncios para o Yandex Direct: só o qwen3.5:4b respeitou os limites de tamanho nos 30 anúncios, mas cerca de metade exigiu correções de fatos, então ele funciona como gerador de rascunhos. Normalização de CRM: em 4 dos 9 modelos, as respostas se deslocavam uma linha e os dados iam parar em clientes errados, por isso a resposta precisa incluir o id da linha, e o código deve verificá-lo.

Só o qwen3.5:4b entregou resumos de documentos longos sem distorções, e ainda assim com o swap ativo.

Carga e conclusões

O servidor processa as requisições em fila. Com 1, 2 e 4 threads, a vazão é praticamente a mesma (qwen3.5:4b: 272, 279 e 274 requisições por hora); só a espera aumenta. Os slots paralelos do Ollama não ajudaram, e o flash attention nesse processador reduziu a velocidade de leitura do prompt de 27 para 12 tokens por segundo. As configurações padrão funcionaram melhor.

Conclusão: modelos a partir de 2B servem para rotina; modelos de 1B, não. Tarefas curtas com verificação por código podem ir para um VPS de 1,5 mil ₽, e as longas devem ficar para segundo plano. O gargalo é a memória, por isso o autor aconselha pegar no mínimo 8 GB de RAM. Limitações: os dados são sintéticos, as amostras são pequenas, e os grandes modelos russos não foram testados nesse servidor.