DeepSeek-V4: como novos algoritmos de compressão tornaram real o contexto de um milhão de tokens

O domínio na indústria de inteligência artificial não é mais definido apenas pela capacidade de um modelo de raciocinar. O que ganha destaque é a memória de trabalho: a capacidade de a rede neural manter na cabeça enormes volumes de informação sem gastos astronômicos com servidores. Nos últimos anos, uma janela de contexto de um milhão de tokens, equivalente a dezenas de livros grossos ou a grandes bases de código corporativas, era considerada prerrogativa dos sistemas mais caros e mais famintos por recursos.

Agora, o laboratório DeepSeek reescreve mais uma vez as regras do jogo ao lançar a versão de prévia da série DeepSeek-V4. A principal inovação não está em simplesmente aumentar a potência, mas em repensar de forma radical os mecanismos fundamentais de memória.

Para entender a dimensão da conquista, é preciso conhecer a barreira técnica que os desenvolvedores enfrentavam. Nas arquiteturas tradicionais de transformers, cada novo token gerado obriga o modelo a olhar para todo o texto anterior. Todo esse histórico fica armazenado no chamado KV cache, que, ao chegar a um milhão de tokens, incha até tamanhos gigantescos e devora a cara memória das GPUs. Isso inviabilizava economicamente o uso comercial em massa do contexto longo na etapa de saída, ou seja, na inferência. A maioria das empresas contornava o problema com sistemas de busca complexos, que extraíam apenas os trechos de texto necessários, mas essas gambiarras inevitavelmente faziam perder nuances importantes e conexões lógicas nos documentos.

Os engenheiros da DeepSeek decidiram eliminar a causa original do problema com duas novas abordagens de arquitetura: atenção esparsa comprimida e atenção profundamente comprimida. Em linguagem simples, o novo modelo deixa de guardar uma cópia fotograficamente exata de cada palavra lida. Em vez disso, os algoritmos arquivam a informação em blocos densos de significado e prestam atenção apenas aos trechos críticos para o cálculo em andamento. É parecido com a forma como uma pessoa lê um romance longo: não lembramos cada vírgula do primeiro capítulo, mas guardamos com clareza as motivações dos personagens e a estrutura do mundo, recuperando esse conhecimento na hora, quando necessário.

A elegância técnica do DeepSeek-V4 também está no uso magistral da arquitetura de mistura de especialistas. O modelo principal, DeepSeek-V4-Pro, tem um total colossal de 1,6 trilhão de parâmetros, mas apenas quarenta e nove bilhões deles são ativados para gerar uma única palavra. A versão mais leve, DeepSeek-V4-Flash, contém 284 bilhões de parâmetros, dos quais se usa uma fração ridiculamente pequena: apenas treze bilhões. Essa abordagem preserva a enorme profundidade de conhecimento e a capacidade analítica do modelo, exigindo recursos computacionais comparáveis aos de sistemas de gerações anteriores.

As consequências desse lançamento para a indústria são difíceis de exagerar. A possibilidade de carregar milhões de tokens a um custo mínimo ameaça segmentos inteiros de negócios construídos sobre o desenvolvimento de infraestrutura para bancos de dados vetoriais e sistemas de geração aumentada por recuperação. Clientes corporativos não precisam mais fragmentar relatórios financeiros, contratos jurídicos ou código-fonte. Podem simplesmente colocar todo o contexto na memória de trabalho do modelo e conversar com ele em tempo real. Isso acelera drasticamente o desenvolvimento de software, a análise de artigos científicos e as auditorias de segurança, tornando essas ferramentas acessíveis até para pequenas startups.

Além disso, o passo reforça a reputação da DeepSeek como principal desestabilizadora de um mercado consolidado. Enquanto grandes corporações de tecnologia competiram por muito tempo com sistemas fechados e assinaturas caras, pesquisadores independentes mostram que a otimização inteligente de algoritmos pode vencer a força bruta computacional. Isso inevitavelmente obrigará os concorrentes a rever sua política de preços e a acelerar a inovação na arquitetura das redes neurais para não ficar para trás na corrida pela eficiência.

Em última análise, o lançamento do DeepSeek-V4 marca a transição para uma nova era da inteligência artificial generativa. Uma era em que a memória ilimitada se torna um recurso padrão, e não uma opção premium. Quando o custo computacional de analisar enormes volumes de dados cai a mínimas históricas, o foco do desenvolvimento passa de tentar manter a informação no contexto para criar agentes autônomos mais sofisticados, capazes de processar esse conhecimento por semanas e meses, mudando nossa visão sobre o que a inteligência de máquina pode fazer.