Intensivo Grátis 21–22/11Intensivo gratuito de 2 dias em Vibecoding (21–22/11 às 16:00 MSK) · Turma 3 começa 23/11Inscrever-se grátis →Turma 3 (23/11)

llama.cpp chega à versão 1.0.0: mais rápido em NVIDIA, Intel e ARM, SSRF corrigido

O motor llama.cpp, usado por muita gente para rodar modelos de IA localmente, passou para a versão 1.0.0 (antes era a 0.9.0, build b12359). A versão traz aceleração para NVIDIA, para a GPU Intel e para processadores ARM, e fecha falhas SSRF, que permitiam fazer o servidor acessar endereços alheios, como a rede interna. Exemplos e APIs antigas foram removidos. Se o llama-server estiver exposto na rede, atualize; se você compila a partir do código-fonte, verifique antes as chamadas obsoletas.

Processado por IA de TG: @cgevent (Метаверсище и ИИще); editado por Hamidun News
llama.cpp chega à versão 1.0.0: mais rápido em NVIDIA, Intel e ARM, SSRF corrigido
Fonte: TG: @cgevent (Метаверсище и ИИще). Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalTG: @cgevent (Метаверсище и ИИще) ↗
Editor-chefe
CUDAos kernels few-row MMQ aceleram lotes pequenos, de 2 a 24 requisições
Vulkana GPU Intel ganhou FlashAttention na fase de prefill
Dado-chave #3O servidor cancela chamadas de ferramentas MCP quando o cliente desconecta ou o tempo esgota

Se você já rodou um modelo de linguagem no seu notebook, num mini servidor ou no celular, é bem provável que por trás estivesse o llama.cpp ou alguma ferramenta baseada nele. Agora o projeto e a biblioteca base dele, a ggml, chegaram à versão 1.0.0 (build b12359), quando antes estavam na 0.9.0. O número em si não acelera nada, mas veio junto um pacote grande de mudanças. Removeram código antigo, adicionaram otimizações para diferentes hardwares e fecharam vulnerabilidades SSRF. SSRF é um ataque em que o servidor é induzido a enviar requisições para endereços escolhidos pelo atacante, como a rede interna de uma empresa.

O que mudou no versionamento e no código

O llama.cpp (release #32190) e a ggml saíram como v1.0.0 ao mesmo tempo. Os autores aproveitaram para limpar o legado do núcleo de llama e ggml: removeram exemplos desatualizados e parte das APIs antigas.

Para quem apenas baixa builds prontos, quase nada muda. Mas se você compila o projeto a partir do código-fonte, usa a ggml como biblioteca ou depende de exemplos que ficaram anos no repositório, leia a lista de mudanças e teste suas builds antes de atualizar. O grupo ggml-org tem uma discussão separada sobre a política de releases. O que ela promete em termos de compatibilidade não aparece no texto-fonte, então as garantias devem ser buscadas na fonte original.

Aceleração para cada tipo de hardware

A maior parte do release são otimizações de baixo nível:

  • CUDA (NVIDIA). Foram adicionados kernels few-row MMQ para lotes pequenos, de 2 a 24. É o cenário em que o servidor processa poucas requisições simultâneas, e não centenas. Para modelos no formato NVFP4, o prefill, ou seja, o processamento inicial do prompt, foi otimizado: os fatores de escala w_s agora são fundidos na etapa final do kernel MMQ.
  • Vulkan. Para a GPU Intel, o backend recebeu um kernel de FlashAttention na fase de prefill. O Vulkan costuma ser escolhido onde não há CUDA, como nas placas de vídeo integradas de notebooks.
  • ARM e RISC-V. Para ARM NEON surgiram tiles simd_gemm 4x4 para multiplicação de matrizes em processadores de smartphones e placas compactas. A operação GATED_DELTA_NET passou a ser direcionada aos kernels vetoriais SpacemiT RVV (RISC-V).
  • Qualcomm Hexagon. Foram adicionadas as quantizações Q5_0 e Q5_1, além de build do host para Windows ARM64.

O texto-fonte não traz números de ganho de velocidade, então não dá para prometer um "mais rápido em tantos por cento". O efeito depende do modelo, da quantização e do hardware. O mais sensato é rodar uma requisição típica na build antiga e na nova e comparar o tempo até o primeiro token e a vazão total.

Servidor: MCP e segurança

Para quem usa o llama-server como base de agentes, a mudança mais prática é esta: se o cliente encerrar a conexão ou o tempo esgotar, o servidor agora cancela as chamadas de ferramentas MCP. Isso importa para ferramentas com efeitos colaterais, como gravar um arquivo ou fazer uma consulta a um serviço externo: um trabalho inacabado não deve continuar rodando quando ninguém mais espera pela resposta.

As vulnerabilidades SSRF no proxy CORS foram corrigidas. Imagine que alguém consiga pedir ao proxy do seu servidor que abra um endereço de um painel administrativo interno, inacessível de fora. O servidor faz a requisição por conta própria e devolve a resposta. Depois da correção, esse truque não deve mais funcionar. Além disso, o acesso a ferramentas a partir de endereços não locais foi restringido. Se você expôs o llama-server na rede corporativa ou na internet, esse é um motivo sério para atualizar. Mesmo após a atualização, porém, não é recomendável mantê-lo aberto sem autenticação e sem um proxy reverso.

Também foi corrigida a conversão do modelo Qwen3.5 e dos projetores multimodais para Qwen-VL, HunyuanVL e MiniCPM-V. Se você teve problemas ao converter esses modelos para GGUF, vale tentar de novo.

O que fazer na prática

  1. Leia as notas de release no GitHub e verifique se você usa exemplos ou APIs removidos.
  2. Se você roda o llama-server com ferramentas MCP ou com acesso que não seja apenas localhost, atualize primeiro por causa das correções de segurança.
  3. Compare a velocidade no seu hardware antes e depois: o texto-fonte não traz benchmarks, e o ganho pode variar bastante.

A versão v1.0.0 é mais um sinal de maturidade do projeto do que uma revolução. Uma das principais ferramentas de IA local ganhou um começo limpo e correções onde eram necessárias.

História

Perguntas frequentes sobre a notícia

O que mudou no versionamento e no código?

O llama.cpp (release #32190) e a ggml saíram como v1.0.0 ao mesmo tempo. Os autores aproveitaram para limpar o legado do núcleo de llama e ggml: removeram exemplos desatualizados e parte das APIs antigas. Para quem apenas baixa builds prontos, quase nada muda. Mas se você compila o projeto a partir do código-fonte, usa a ggml como biblioteca ou depende de exemplos que ficaram anos no repositório, leia a lista de mudanças e teste suas builds antes de atualizar.

O que se sabe sobre Aceleração para cada tipo de hardware?

A maior parte do release são otimizações de baixo nível: CUDA (NVIDIA). Foram adicionados kernels few-row MMQ para lotes pequenos, de 2 a 24. É o cenário em que o servidor processa poucas requisições simultâneas, e não centenas. Para modelos no formato NVFP4, o prefill, ou seja, o processamento inicial do prompt, foi otimizado: os fatores de escala w_s agora são fundidos na etapa final do kernel MMQ. Vulkan. Para a GPU Intel, o backend recebeu um kernel de FlashAttention na fase de prefill.

O que se sabe sobre Servidor: MCP e segurança?

Para quem usa o llama-server como base de agentes, a mudança mais prática é esta: se o cliente encerrar a conexão ou o tempo esgotar, o servidor agora cancela as chamadas de ferramentas MCP. Isso importa para ferramentas com efeitos colaterais, como gravar um arquivo ou fazer uma consulta a um serviço externo: um trabalho inacabado não deve continuar rodando quando ninguém mais espera pela resposta. As vulnerabilidades SSRF no proxy CORS foram corrigidas.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Hands-On AI Engineering · Hamidun Academy

Build & Ship Production AI Agents Without Boilerplate Code

Start your free 72-hour trial at Hamidun Academy (academy.hamidun.com) — interactive lessons on Claude Code & Cursor, live Tech Radar, and production agent templates.

Start 72h Free Trial →Vibe-Coding Intensive
O que você acha?
Carregando comentários…