Inicia 23 novCohorte 3 en vivo de Vibe Coding y Agentes IA: 3 semanas, 9 clases en directoCohorte 3 (23.11) →
LanzamientoAnálisis · En radarHabr AI→ original

Qdrant y Hybrid RAG: búsqueda en documentos corporativos sin nube y sin fugas

Hybrid RAG va más allá de la gestión documental clásica: el sistema busca por significado y por coincidencia exacta a la vez, y después comprueba la relevancia de los fragmentos encontrados antes de responder. El núcleo es un stack local con Qdrant, Qwen2.5, LangGraph y Haystack. Ayuda a bancos, empresas de logística y despachos de abogados a trabajar con sus archivos más rápido, sin sacar los datos a la nube.

Procesado por IA desde Habr AI; editado por Hamidun News
Qdrant y Hybrid RAG: búsqueda en documentos corporativos sin nube y sin fugas
Fuente: Habr AI. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalHabr AI ↗
Editor jefe
Dato clave #1Docling normaliza los archivos entrantes y prepara la estructura del documento
Dato clave #2Qwen2.5-VL ayuda a interpretar escaneos, tablas y elementos visuales complejos
Dato clave #3BAAI/bge-m3 genera vectores dense y sparse para documentos y consultas

La búsqueda de documentos corporativos no se atasca por falta de datos, sino porque están dispersos entre PDF, escaneos, hojas de cálculo y correos. Hybrid RAG propone una arquitectura que permite buscar respuestas en los archivos internos en local, sin enviar información sensible a la nube.

Dónde falla la búsqueda

El RAG convencional funciona bien con una base ordenada y homogénea: unas preguntas frecuentes, un único reglamento o un conjunto de documentos de texto limpios. Pero en el negocio real los documentos están en distintos formatos y en dos idiomas, y a menudo contienen no solo texto, sino también tablas, códigos, referencias de artículo y páginas escaneadas. En ese entorno la búsqueda semántica por sí sola no basta: una consulta sobre reclamaciones a un contratista o sobre el código 8471300000 exige entender el sentido de la pregunta y, a la vez, localizar con precisión cifras y formulaciones concretas.

Aquí es donde Hybrid RAG se distingue del enfoque clásico. El sistema no se limita a "alimentar" a un modelo de lenguaje con el archivo: primero reúne el contexto relevante mediante varios tipos de búsqueda. Esto es especialmente importante en logística, banca, aduanas y despachos de abogados, donde el usuario no necesita un resumen general, sino una respuesta exacta basada en un documento, un apartado o una página concretos. Por eso lo decisivo no es solo la búsqueda, sino también cómo se verifica el contexto encontrado antes de que el modelo responda.

Cómo está montado el stack

En el esquema descrito, los documentos pasan primero por un análisis estructural. Docling prepara los escaneos y el layout, mientras que el modelo multimodal Qwen2.5-VL ayuda a leer tablas complejas, anotaciones manuscritas y páginas mal reconocidas. Después, el modelo de embeddings BAAI/bge-m3 convierte los documentos y la pregunta del usuario en dos representaciones a la vez: dense para la búsqueda por significado y sparse para las coincidencias exactas. Qdrant almacena ambos tipos de vectores y combina los resultados mediante RRF, de modo que no hay que equilibrar a mano los pesos entre las dos estrategias.

  • Docling normaliza los archivos entrantes y prepara la estructura del documento
  • Qwen2.5-VL ayuda a interpretar escaneos, tablas y elementos visuales complejos
  • BAAI/bge-m3 genera vectores dense y sparse para documentos y consultas
  • Qdrant ejecuta la búsqueda híbrida y fusiona los resultados mediante RRF
  • Una capa de rerank descarta los fragmentos irrelevantes antes de que el modelo responda

A continuación entra el rerank en dos etapas: un filtrado rápido y una comprobación más precisa con cross-encoder. A la generación de la respuesta no llega todo el archivo, sino un pequeño conjunto de fragmentos que realmente responden a la pregunta. Este pipeline reduce el riesgo de alucinaciones y permite que el sistema no se invente nada si en la base simplemente no está el dato necesario. Esa es la diferencia entre una búsqueda basada en documentos y un resumen vistoso pero poco fiable.

Por qué importa el self-hosted

La tesis principal del artículo es que el problema no se resuelve conectando sin más un LLM en la nube. En los sectores regulados, los datos no deben salir del perímetro de la empresa ni durante la indexación, ni durante la búsqueda, ni durante la generación de la respuesta. Por eso el autor apuesta por un stack self-hosted: Qdrant local, Langfuse local para el trazado, LangGraph para gestionar los estados de forma explícita y Haystack para verificar la calidad antes de pasar a producción. De lo contrario, el propio sistema de búsqueda se convierte en un nuevo punto de riesgo para el cumplimiento normativo y la auditoría.

«No hay datos suficientes» es mejor que una alucinación dicha con seguridad.

Otra conclusión práctica afecta a la infraestructura. Qwen2.5-72B-Instruct ofrece la máxima calidad, pero necesita dos A100 80GB. Una opción inicial más realista para una empresa es Qwen2.5-32B-Instruct en una sola L40S: según la estimación del autor, alcanza cerca del 90% de la calidad del modelo mayor y cuesta bastante menos. Eso convierte a Hybrid RAG no en un juguete de laboratorio, sino en una arquitectura sólida para empresas que necesitan búsqueda interna con un coste total de propiedad claro.

Qué significa

Hybrid RAG se perfila como una forma práctica de dar vida a los archivos corporativos sin renunciar a la seguridad. Para las empresas, supone pasar de una búsqueda caótica en el correo y SharePoint a un sistema que encuentra el documento adecuado en segundos, muestra la fuente de la respuesta y no envía datos internos a una API externa.

Historia

Preguntas frecuentes sobre la noticia

Dónde falla la búsqueda?

El RAG convencional funciona bien con una base ordenada y homogénea: unas preguntas frecuentes, un único reglamento o un conjunto de documentos de texto limpios. Pero en el negocio real los documentos están en distintos formatos y en dos idiomas, y a menudo contienen no solo texto, sino también tablas, códigos, referencias de artículo y páginas escaneadas.

Cómo está montado el stack?

En el esquema descrito, los documentos pasan primero por un análisis estructural. Docling prepara los escaneos y el layout, mientras que el modelo multimodal Qwen2.5-VL ayuda a leer tablas complejas, anotaciones manuscritas y páginas mal reconocidas. Después, el modelo de embeddings BAAI/bge-m3 convierte los documentos y la pregunta del usuario en dos representaciones a la vez: dense para la búsqueda por significado y sparse para las coincidencias exactas.

¿Qué se sabe sobre Por qué importa el self-hosted?

La tesis principal del artículo es que el problema no se resuelve conectando sin más un LLM en la nube. En los sectores regulados, los datos no deben salir del perímetro de la empresa ni durante la indexación, ni durante la búsqueda, ni durante la generación de la respuesta. Por eso el autor apuesta por un stack self-hosted: Qdrant local, Langfuse local para el trazado, LangGraph para gestionar los estados de forma explícita y Haystack para verificar la calidad antes de pasar a producción.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…