Qdrant y Hybrid RAG: búsqueda en documentos corporativos sin nube ni filtraciones

La búsqueda de documentos corporativos no está limitada por la falta de datos, sino por el hecho de que estos datos están dispersos en PDFs, escaneos, hojas de cálculo y correspondencia. Hybrid RAG ofrece una arquitectura que permite buscar en archivos internos localmente, sin exponer información sensible a la nube.

Dónde Falla la Búsqueda

RAG estándar funciona bien en bases de datos limpias y homogéneas: por ejemplo, FAQs, un único reglamento o un conjunto de documentos de texto puro. Pero en el negocio real, los documentos existen en diferentes formatos, en dos idiomas y frecuentemente contienen no solo texto, sino tablas, códigos, números de artículo y páginas escaneadas. En tal entorno, solo la búsqueda semántica no es suficiente: una consulta sobre reclamaciones contra una contraparte o código 8471300000 requiere entender simultáneamente el significado de la pregunta y encontrar con precisión números y formulaciones específicas.

Aquí es donde Hybrid RAG se diferencia del enfoque clásico. El sistema no intenta simplemente "alimentar" el archivo a un modelo de lenguaje, sino que primero recopila contexto relevante de varios tipos de búsqueda. Esto es especialmente importante para logística, bancos, aduanas y despachos jurídicos, donde el usuario necesita no un resumen general, sino una respuesta exacta respaldada por un documento, sección o página específica.

Por eso lo importante no es solo la búsqueda en sí, sino la capacidad de verificar el contexto encontrado antes de la respuesta del modelo.

Cómo Funciona el Stack

En el esquema descrito, los documentos primero se someten a análisis estructural. Docling prepara escaneos y diseño, mientras que el modelo multimodal Qwen2.5-VL ayuda a leer tablas complejas, anotaciones manuscritas y páginas mal reconocidas. Luego, el modelo de embedding BAAI/bge-m3 transforma documentos y la pregunta del usuario en dos representaciones simultáneamente: densa para búsqueda semántica e escasa para coincidencias exactas. Qdrant almacena ambos tipos de vectores y combina resultados a través de RRF, por lo que no hay necesidad de equilibrar manualmente pesos entre las dos estrategias.

• Docling normaliza archivos de entrada y prepara la estructura del documento
• Qwen2.5-VL ayuda a analizar escaneos, tablas y elementos visuales complejos
• BAAI/bge-m3 construye vectores densos y escasos para documentos y consultas
• Qdrant realiza búsqueda híbrida y fusiona resultados a través de RRF
• Una capa de reranking filtra fragmentos irrelevantes antes de la respuesta del modelo

Después de esto, se aplica reranking en dos etapas: filtrado rápido y verificación más precisa con cross-encoder. La generación de respuesta recibe no todo el archivo, sino un pequeño conjunto de fragmentos que realmente responden la pregunta. Este pipeline reduce el riesgo de alucinaciones y permite al sistema no especular si la base simplemente no contiene el hecho necesario. Esta es la diferencia entre búsqueda respaldada por documentos y un resumen bonito pero poco confiable.

Por Qué Importa Self-Hosted

El punto principal del artículo es que el problema no puede resolverse simplemente conectando un LLM basado en la nube. En industrias reguladas, los datos no deben salir del perímetro de la empresa durante la indexación, búsqueda o generación de respuesta. Por lo tanto, el autor apostó por un stack self-hosted: Qdrant local, Langfuse local para rastreo, LangGraph para gestión explícita de estado y Haystack para verificación de calidad antes de producción. De lo contrario, el propio sistema de búsqueda se convierte en un nuevo punto de riesgo de cumplimiento y auditoría.

"Datos insuficientes" es mejor que una alucinación confiada.

Una conclusión práctica separada concierne la infraestructura. La máxima calidad proviene de Qwen2.5-72B-Instruct, pero requiere dos GPUs A100 80GB. Una opción inicial más realista para negocios es Qwen2.5-32B-Instruct en una sola L40S: según la estimación del autor, proporciona alrededor del 90% de la calidad del modelo anterior, pero cuesta significativamente menos. Esto hace que Hybrid RAG no sea un juguete de laboratorio, sino una arquitectura clara para empresas que necesitan búsqueda interna con costo de propiedad comprensible.

Qué Significa Esto

Hybrid RAG se convierte en una forma práctica de revitalizar archivos corporativos sin comprometer la seguridad. Para negocios, este es un camino desde búsquedas caóticas en correo electrónico y SharePoint hacia un sistema que en segundos encuentra el documento necesario, muestra la fuente de la respuesta y no envía datos internos a una API externa.