Como rodar uma rede neural gastando menos: TurboQuant, do Google, otimiza a memória
O Google apresentou o TurboQuant, um método de compressão do cache KV que pode reduzir a memória usada na inferência em pelo menos seis vezes e acelerar o cálculo da atenção. Isso pesa principalmente na execução local de LLMs e em conversas longas. A técnica não atua sobre os pesos do modelo, e sim sobre a memória de trabalho durante a geração. Mesmo assim, é improvável que freie o crescimento dos custos totais com infraestrutura de IA.
Processado por IA de ZDNet AI; editado por Hamidun News
O Google Research desenvolveu em 24 de março o TurboQuant, um algoritmo para redes neurais locais que reduz a necessidade de memória enquanto o modelo gera uma resposta.
O que é o cache KV em redes neurais?
É a memória de trabalho em que um modelo de linguagem guarda chaves e valores intermediários dos tokens já processados. Quanto mais longos o diálogo ou o documento, mais memória esse cache ocupa e mais caro fica rodar o modelo.
- 1 de nov. de 2026Teste com 16 modelos em 7 buscadores: Exa fez em média 10,5 pontos de 14; SearXNG, cerca de 3
- 1 de nov. de 2026Agente de vídeo StreamVibe, do Google, supera outros modelos em 10,7% em timing e qualidade das respostas
- 1 de nov. de 2026OpenAI reescreve as regras de comportamento do GPT: cinco valores e uma cadeia de prioridades
- 1 de nov. de 2026Bots de voz com LLM usam o classificador rápido Jev: decisão em 200–500 ms
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
O essencial da IA — uma vez por semana
Sete histórias que realmente importaram, escolhidas a dedo. Sem ruído nem releases.
Pronto! Verifique seu e-mail para a confirmação.