Ao vivo 18/11 · Turma 318 nov às 19:00 MSK — aula prática gratuita de agentes de IA · Turma 3 ao vivo começa 23/11Aula 18/11 →Turma 3 (23/11)
LançamentoAnálise · No radarTNW→ original

Algoritmo TurboQuant, do Google, derruba ações de fabricantes de memória após publicação de pesquisa

O Google apresentou o TurboQuant, método de compressão do KV cache para LLMs que reduz o uso de memória em pelo menos seis vezes e, segundo a empresa, não piora a qualidade. O mercado reagiu em horas: as ações da Micron, Western Digital e SanDisk caíram porque os investidores recalcularam de imediato a demanda futura por memória para IA. Se a abordagem pegar, a inferência pode ficar bem mais barata. O método comprime o KV cache para 3 bits por valor, em vez dos 16 bits padrão, e dispensa retreinamento e fine-tuning.

Processado por IA de TNW; editado por Hamidun News
Algoritmo TurboQuant, do Google, derruba ações de fabricantes de memória após publicação de pesquisa
Fonte: TNW. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalTNW ↗
Editor-chefe
Dado-chave #1compressão do KV cache de 16 para 3 bits
Dado-chave #2redução de memória de pelo menos 6 vezes
Dado-chave #3até 8 vezes mais velocidade no cálculo de attention em Nvidia H100 no modo de 4 bits

O Google Research apresentou o TurboQuant, algoritmo de compressão para modelos de IA que reduz em pelo menos seis vezes o volume da memória de trabalho principal, sem perda perceptível de qualidade. O mercado reagiu na hora: após a publicação, em 24 de março de 2026, investidores passaram a reavaliar quanta memória a indústria de IA generativa realmente vai precisar.

O que o Google mostrou

O TurboQuant ataca um ponto estreito, porém caro, da inferência de grandes modelos de linguagem: o key-value cache, ou KV cache. Ele armazena o contexto e permite que o modelo não recalcule tokens já processados. Quanto mais longo o prompt, o documento ou a conversa, mais rápido esse cache cresce e mais memória da GPU ele ocupa.

Segundo o Google, o novo método comprime o KV cache para 3 bits por valor, em vez dos 16 bits padrão, e reduz o uso de memória em pelo menos seis vezes.

Na prática, isso importa tanto quanto para a ciência. A memória liberada permite atender mais requisições simultâneas no mesmo hardware, rodar janelas de contexto mais longas ou usar modelos maiores sem ampliar a frota de aceleradores. Os autores escrevem que o TurboQuant não exige retreinamento nem fine-tuning e será apresentado na ICLR 2026. Os testes usaram modelos das famílias Gemma, Mistral e Llama, além de benchmarks padrão de contexto longo.

Como o algoritmo funciona

O TurboQuant se baseia em um esquema de duas etapas. Primeiro, o método PolarQuant converte os vetores para uma representação polar, eliminando dados auxiliares desnecessários que costumam consumir parte do ganho da quantização tradicional. Depois entra o QJL, técnica que codifica o erro residual com apenas um bit adicional por dimensão e reduz distorções no attention. Com isso, a maior parte do orçamento de bits vai para preservar o significado dos dados originais, e não para overhead técnico.

O Google chama o KV cache de "cola digital de alta velocidade" do modelo.
  • compressão do KV cache de 16 para 3 bits
  • redução de memória de pelo menos 6 vezes
  • até 8 vezes mais velocidade no cálculo de attention em Nvidia H100 no modo de 4 bits
  • funciona sem treinamento e sem fine-tuning
  • aplicável não só a LLMs, mas também à busca vetorial

O Google afirma que, nas tarefas Needle in a Haystack, o TurboQuant manteve resultado perfeito mesmo com o cache comprimido seis vezes. No LongBench e no ZeroSCROLLS, o método também igualou ou superou o KIVI, uma das abordagens-base conhecidas de quantização do KV cache. Separadamente, a empresa testou o TurboQuant em busca vetorial e obteve recall mais alto, sem grandes codebooks nem ajuste a um dataset específico. É uma área de interesse direto para buscas, recomendações e sistemas de publicidade.

Por que o mercado reagiu

O mercado de ações não leu a publicação como avanço acadêmico, mas como sinal de possível queda na demanda por memória na infraestrutura de IA. Em poucas horas após a divulgação, as ações da Micron caíram 3%, as da Western Digital 4,7% e as da SanDisk 5,7%.

A lógica é simples: se um componente-chave da inferência passa a exigir várias vezes menos memória, as compras futuras de HBM, DRAM e armazenamento podem parecer menos lineares do que os investidores previam.

Mas isso não significa que a indústria vá precisar de repente de seis vezes menos hardware. A memória é apenas uma linha de custo dos data centers, e o apetite dos modelos por computação cresce mais rápido que qualquer otimização local. Até analistas alertam contra conclusões diretas demais: algoritmos de compressão já existiam, mas não derrubaram a demanda por infraestrutura como um todo. A história da computação costuma mostrar o efeito contrário: quando os recursos ficam mais baratos, as empresas constroem sistemas mais pesados e mais amplos com o mesmo orçamento.

O que isso significa

O TurboQuant não é motivo para descartar os fabricantes de memória, mas um indicador precoce de uma nova etapa na corrida por eficiência. Vencerão não só quem compra mais GPUs, mas também quem consegue comprimir mais a inferência sem perder qualidade. Para produtos de IA, é a chance de reduzir o custo por requisição; para o mercado, um lembrete de que o software já influencia o valor de mercado do hardware.

História

Perguntas frequentes sobre a notícia

O que o Google mostrou?

O TurboQuant ataca um ponto estreito, porém caro, da inferência de grandes modelos de linguagem: o key-value cache, ou KV cache. Ele armazena o contexto e permite que o modelo não recalcule tokens já processados. Quanto mais longo o prompt, o documento ou a conversa, mais rápido esse cache cresce e mais memória da GPU ele ocupa. Segundo o Google, o novo método comprime o KV cache para 3 bits por valor, em vez dos 16 bits padrão, e reduz o uso de memória em pelo menos seis vezes.

Como o algoritmo funciona?

O TurboQuant se baseia em um esquema de duas etapas. Primeiro, o método PolarQuant converte os vetores para uma representação polar, eliminando dados auxiliares desnecessários que costumam consumir parte do ganho da quantização tradicional. Depois entra o QJL, técnica que codifica o erro residual com apenas um bit adicional por dimensão e reduz distorções no attention. Com isso, a maior parte do orçamento de bits vai para preservar o significado dos dados originais, e não para overhead técnico.

Por que o mercado reagiu?

O mercado de ações não leu a publicação como avanço acadêmico, mas como sinal de possível queda na demanda por memória na infraestrutura de IA. Em poucas horas após a divulgação, as ações da Micron caíram 3%, as da Western Digital 4,7% e as da SanDisk 5,7%. A lógica é simples: se um componente-chave da inferência passa a exigir várias vezes menos memória, as compras futuras de HBM, DRAM e armazenamento podem parecer menos lineares do que os investidores previam.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…