10 abordagens de RAG que realmente funcionam em produção: do básico ao GraphRAG

Um desenvolvedor no Habr reuniu uma lista prática de abordagens de RAG que realmente são usadas em produção, com base em experiência pessoal e na análise de casos de outras equipes ao longo do último ano de crescimento acelerado da stack de LLMs.

Por onde todo mundo começa

O RAG ingênuo (naive RAG) é o ponto de partida da maioria dos projetos. O esquema é simples: os documentos são divididos em chunks e indexados por meio de embeddings. Na hora da consulta, os mais próximos por distância de cosseno são recuperados e enviados ao LLM como contexto. Funciona em bases de conhecimento pequenas, com perguntas simples e documentos homogêneos.

Os problemas surgem em escala: documentos longos se encaixam mal em chunks de tamanho fixo, perguntas complexas exigem vários trechos ao mesmo tempo e a formulação do usuário muitas vezes não combina com o estilo dos documentos. É aí que entram as abordagens avançadas.

Busca híbrida e reranking

A busca híbrida é o primeiro upgrade que quase sempre se paga. Combinar vetores densos (busca semântica) com BM25 (busca por palavras-chave) entrega de forma consistente de 15% a 30% a mais de precisão do que a busca apenas com embeddings. Os vetores densos captam a similaridade de sentido; os esparsos, as correspondências exatas de termos, siglas e nomes.

Adicionar um reranker cross-encoder sobre os 20 melhores resultados eleva a qualidade em mais 10–15%. O reranker é um modelo mais pesado, mas trabalha apenas com o conjunto final de candidatos, então a latência continua aceitável para produção.

Técnicas no nível da consulta

Alguns problemas de RAG são resolvidos com mais eficiência antes da busca, reformulando ou expandindo a consulta.

• HyDE: o LLM gera um documento hipotético com a resposta, e o vetor dele é usado na busca. Ajuda especialmente quando o estilo da pergunta e o dos documentos são muito diferentes.
• Multi-query: de uma pergunta são geradas de 3 a 5 paráfrases, e a busca roda em paralelo em todas. Reduz a dependência da formulação exata do usuário.
• Step-back prompting: antes da busca, o LLM generaliza a consulta para um nível de abstração mais alto. Útil quando uma pergunta específica é de nicho demais para uma boa recuperação.
• Parent Document Retriever: indexam-se chunks pequenos (alta precisão), mas o documento pai inteiro é enviado ao contexto. Bom equilíbrio entre precisão e cobertura.
• Contextual compression: o LLM extrai do chunk recuperado apenas a parte relevante. Economiza tokens e reduz o ruído no contexto.

Artilharia pesada

Quando as técnicas simples não bastam, entram em cena abordagens de arquitetura mais complexa.

RAPTOR constrói uma árvore hierárquica de documentos: agrupa os chunks em clusters, resume cada cluster e depois agrupa os resumos novamente. Na consulta, a busca acontece no nível de abstração adequado. Funciona bem em documentos longos, como manuais técnicos, relatórios financeiros e livros com graus variados de detalhe.

GraphRAG, da Microsoft, constrói um grafo de conhecimento: extrai entidades e relações do texto e cria resumos de comunidades para diferentes clusters temáticos. Supera com folga o RAG padrão em perguntas analíticas e comparativas ("como X se relaciona com Y", "o que mudou desde A") e em tarefas que exigem sintetizar informações de todo o corpus.

Self-RAG e Corrective RAG levam o sistema a um modo agêntico: o modelo decide por conta própria se é preciso buscar, avalia a relevância do que encontrou e, se necessário, reformula a consulta. Isso adiciona latência e complexidade, mas melhora de forma notável a qualidade em tarefas de várias etapas e ambíguas.

O que isso significa

O caminho prático: começar com busca híbrida mais reranking, que resolve a maioria dos problemas com custo mínimo. Depois, adicionar multi-query ou HyDE para consultas variadas. GraphRAG e Self-RAG só devem entrar quando as técnicas mais simples não resolvem, porque exigem um esforço significativo de desenvolvimento e manutenção. Para a maioria dos produtos B2B, os dois primeiros passos bastam.