DeepSeek-OCR comprime o contexto de texto em 10 vezes com 97% de precisão

A DeepSeek publicou um artigo e abriu o código do DeepSeek-OCR, sistema que transforma texto em imagem e usa tokens visuais como representação comprimida do contexto. Segundo os autores, com compressão de aproximadamente 10 vezes, o decodificador recupera o texto original com precisão de cerca de 97%. Com compressão de 20 vezes, a precisão cai para cerca de 60%. Uma análise popular do canal Two Minute Papers chama isso de solução para o problema de memória da IA. A formulação é exagerada: o problema foi mais apontado do que resolvido, mas os números em documentos são convincentes.

Por que transformar texto em imagem

Contexto longo é caro. O custo da atenção no transformer cresce de forma quadrática com o número de tokens, e uma página de texto denso facilmente ocupa milhares deles. A mesma página, fornecida como imagem, é codificada em centenas de tokens visuais. Os autores levantam uma pergunta: é possível usar a visão como canal de compressão para um modelo de linguagem? O experimento mostra que, para a tarefa de reconhecimento de texto, é.

Como funciona

O sistema tem duas partes. O codificador DeepEncoder combina atenção local por janelas, baseada no SAM, com atenção global, baseada no CLIP-large. Entre os dois fica um compressor convolucional que reduz o número de tokens em 16 vezes, de modo que a atenção global, mais cara, trabalha com poucos elementos. O decodificador, DeepSeek3B-MoE, é um modelo do tipo mixture-of-experts com cerca de 3 bilhões de parâmetros, dos quais aproximadamente 570 milhões ficam ativos por token.

Principais parâmetros segundo o artigo:

• compressão de até 10x: precisão de reconhecimento de cerca de 97%;
• compressão de cerca de 20x: precisão de cerca de 60%;
• modos de resolução: Tiny (64 tokens), Small (100), Base (256), Large (400) e Gundam, para páginas complexas com vários fragmentos;
• OmniDocBench: 100 tokens por página superam o GOT-OCR2.0, que precisa de 256;
• menos de 800 tokens entregam resultado melhor que o MinerU2.0, que gasta cerca de 7000;
• desempenho: mais de 200 mil páginas por dia em uma única A100-40G e até 33 milhões de páginas por dia em 20 nós de 8 GPUs cada.

Onde a ideia bonita termina

A principal limitação: o OCR verifica se é possível ler o texto de volta. Ele não verifica se um modelo de linguagem consegue raciocinar sobre um contexto comprimido opticamente tão bem quanto sobre tokens comuns. São tarefas diferentes, e o artigo não responde à segunda.

Os autores também propõem uma analogia com a memória humana: trechos antigos de uma conversa poderiam ser guardados em imagens com resolução cada vez menor, ou seja, seriam "esquecidos" aos poucos. Soa lógico para agentes com histórico longo, mas é uma hipótese. Ainda não há dados sobre como esse esquema afeta a qualidade das respostas em diálogos, programação e tarefas de várias etapas.

Também é preciso considerar as perdas. Com 60% de precisão em 20x, não dá para armazenar contratos, código ou números em que um erro de um único caractere muda o sentido. Nesses casos, será necessário controle de qualidade ou retorno ao texto original.

O que testar na prática

Equipes que digitalizam arquivos, notas fiscais e PDFs científicos já podem testar o DeepSeek-OCR: o código e os pesos estão no GitHub. O ganho está sobretudo no custo de processamento: menos tokens por página significam menos carga nas GPUs. O modelo também serve para gerar dados de treinamento a partir de documentos em grande escala, como indicam os números de desempenho.

Desenvolvedores de agentes devem deixar as conclusões exageradas de lado e fazer o próprio teste: pegar um histórico longo de diálogo, comprimir a parte antiga em imagem e comparar a qualidade das respostas com a do contexto comum. Se não houver diferença, a economia de tokens será significativa. Se houver, será preciso decidir quais dados podem ser "esquecidos".