Qdrant e Hybrid RAG: busca em documentos corporativos sem nuvem e sem vazamentos

A busca por documentos corporativos não é impedida pela falta de dados, mas pelo fato de esses dados estarem espalhados por PDFs, digitalizações, planilhas e correspondências. Hybrid RAG oferece uma arquitetura que permite buscar em arquivos internos localmente, sem expor informações sensíveis à nuvem.

Onde a Busca Falha

RAG padrão funciona bem em bancos de dados limpos e homogêneos: por exemplo, FAQs, um único regulamento ou um conjunto de documentos de texto puro. Mas no negócio real, documentos existem em formatos diferentes, em dois idiomas e frequentemente contêm não apenas texto, mas tabelas, códigos, números de artigos e páginas digitalizadas. Em tal ambiente, apenas busca semântica não é suficiente: uma consulta sobre reclamações contra uma contraparte ou código 8471300000 requer entender simultaneamente o significado da pergunta e encontrar com precisão números e formulações específicas.

É aqui que Hybrid RAG se diferencia da abordagem clássica. O sistema não tenta simplesmente "alimentar" o arquivo para um modelo de linguagem, mas primeiro coleta contexto relevante de vários tipos de busca. Isso é especialmente importante para logística, bancos, alfândega e firmas jurídicas, onde o usuário precisa não de um resumo geral, mas de uma resposta exata baseada em um documento, seção ou página específica.

É por isso que o importante não é apenas a busca em si, mas a capacidade de verificar o contexto encontrado antes da resposta do modelo.

Como o Stack Funciona

No esquema descrito, documentos primeiro passam por análise estrutural. Docling prepara digitalizações e layout, enquanto o modelo multimodal Qwen2.5-VL ajuda a ler tabelas complexas, anotações manuscritas e páginas mal reconhecidas. Em seguida, o modelo de embedding BAAI/bge-m3 transforma documentos e a pergunta do usuário em duas representações simultaneamente: densa para busca semântica e esparsa para correspondências exatas. Qdrant armazena ambos os tipos de vetores e combina resultados através de RRF, então não há necessidade de equilibrar manualmente pesos entre as duas estratégias.

• Docling normaliza arquivos de entrada e prepara a estrutura do documento
• Qwen2.5-VL ajuda a analisar digitalizações, tabelas e elementos visuais complexos
• BAAI/bge-m3 constrói vetores densos e esparsos para documentos e consultas
• Qdrant realiza busca híbrida e mescla resultados através de RRF
• Uma camada de reranking filtra fragmentos irrelevantes antes da resposta do modelo

Depois disso, reranking é aplicado em dois estágios: filtragem rápida e verificação mais precisa com cross-encoder. A geração de resposta recebe não o arquivo inteiro, mas um pequeno conjunto de fragmentos que realmente respondem a pergunta. Este pipeline reduz o risco de alucinações e permite ao sistema não especular se a base simplesmente não contém o fato necessário. Essa é a diferença entre busca apoiada em documentos e um resumo bonito, mas não confiável.

Por Que Self-Hosted é Importante

O ponto principal do artigo é que o problema não pode ser resolvido simplesmente conectando um LLM baseado em nuvem. Em indústrias reguladas, dados não devem sair do perímetro da empresa durante indexação, busca ou geração de resposta. Portanto, o autor apostou em um stack self-hosted: Qdrant local, Langfuse local para rastreamento, LangGraph para gerenciamento explícito de estado e Haystack para verificação de qualidade antes da produção. Caso contrário, o próprio sistema de busca se torna um novo ponto de risco de conformidade e auditoria.

"Dados insuficientes" é melhor do que uma alucinação confiante.

Uma conclusão prática separada diz respeito à infraestrutura. A qualidade máxima vem do Qwen2.5-72B-Instruct, mas requer duas GPUs A100 80GB. Uma opção inicial mais realista para negócios é Qwen2.5-32B-Instruct em uma única L40S: de acordo com a estimativa do autor, oferece cerca de 90% da qualidade do modelo mais antigo, mas custa significativamente menos. Isso torna Hybrid RAG não um brinquedo de laboratório, mas uma arquitetura clara para empresas que precisam de busca interna com custo de propriedade compreensível.

O Que Isso Significa

Hybrid RAG se torna uma forma prática de trazer arquivos corporativos à vida sem comprometer a segurança. Para negócios, este é um caminho de buscas caóticas em email e SharePoint para um sistema que em segundos encontra o documento necessário, mostra a fonte da resposta e não envia dados internos para uma API externa.