Qdrant et Hybrid RAG : rechercher dans les documents d'entreprise sans cloud et sans fuite

La recherche de documents en entreprise se heurte moins à un manque de données qu'à leur dispersion entre PDF, scans, tableaux et échanges de courriels. Hybrid RAG propose une architecture qui permet de chercher des réponses dans les archives internes en local, sans envoyer d'informations sensibles dans le cloud.

Là où la recherche échoue

Le RAG classique fonctionne bien sur une base propre et homogène : une FAQ, un règlement unique ou un ensemble de documents texte soignés. Mais dans la réalité des entreprises, les documents existent dans différents formats, en deux langues, et contiennent souvent non seulement du texte, mais aussi des tableaux, des codes, des références d'articles et des pages numérisées. Dans un tel environnement, la recherche sémantique seule ne suffit pas : une requête sur des réclamations visant un cocontractant, ou sur le code 8471300000, exige de comprendre le sens de la question tout en retrouvant précisément des chiffres et des formulations donnés.

C'est là que Hybrid RAG se distingue de l'approche classique. Le système ne se contente pas de « donner à manger » l'archive à un modèle de langage : il assemble d'abord un contexte pertinent à partir de plusieurs types de recherche. C'est particulièrement important pour la logistique, les banques, les douanes et les cabinets d'avocats, où l'utilisateur n'attend pas un résumé général, mais une réponse exacte, appuyée sur un document, un article ou une page précis. Voilà pourquoi l'enjeu n'est pas seulement la recherche, mais aussi la manière de vérifier le contexte retrouvé avant que le modèle ne réponde.

Comment la pile est construite

Dans le schéma décrit, les documents passent d'abord par une analyse structurelle. Docling prépare les scans et la mise en page, tandis que le modèle multimodal Qwen2.5-VL aide à lire les tableaux complexes, les annotations manuscrites et les pages mal reconnues. Ensuite, le modèle d'embeddings BAAI/bge-m3 transforme les documents et la question de l'utilisateur en deux représentations à la fois : dense pour la recherche par le sens et sparse pour les correspondances exactes. Qdrant stocke les deux types de vecteurs et fusionne les résultats via RRF, ce qui évite d'avoir à équilibrer manuellement les poids entre les deux stratégies.

• Docling normalise les fichiers entrants et prépare la structure du document
• Qwen2.5-VL aide à déchiffrer les scans, les tableaux et les éléments visuels complexes
• BAAI/bge-m3 construit des vecteurs dense et sparse pour les documents et les requêtes
• Qdrant exécute la recherche hybride et fusionne les résultats via RRF
• Une couche de rerank écarte les passages non pertinents avant la réponse du modèle

Vient ensuite un rerank en deux étapes : un tri rapide, puis une vérification plus fine par cross-encoder. Ce n'est pas toute l'archive qui arrive à la génération de la réponse, mais un petit ensemble de passages qui répondent réellement à la question. Ce pipeline réduit le risque d'hallucinations et permet au système de ne pas inventer lorsque le fait recherché n'est tout simplement pas dans la base. C'est toute la différence entre une recherche ancrée dans les documents et un résumé séduisant mais peu fiable.

Pourquoi le self-hosted compte

La thèse principale de l'article est que le problème ne se règle pas en branchant simplement un LLM dans le cloud. Dans les secteurs réglementés, les données ne doivent pas quitter le périmètre de l'entreprise, que ce soit pendant l'indexation, la recherche ou la génération de la réponse. L'auteur mise donc sur une pile self-hosted : Qdrant en local, Langfuse en local pour le traçage, LangGraph pour une gestion explicite des états et Haystack pour contrôler la qualité avant la mise en production. Sans cela, le système de recherche devient lui-même un nouveau point de risque pour la conformité et l'audit.

«

Données insuffisantes » vaut mieux qu'une hallucination assénée avec aplomb.

Un autre enseignement pratique concerne l'infrastructure. Qwen2.5-72B-Instruct offre la meilleure qualité, mais il lui faut deux A100 80GB. Une option de départ plus réaliste pour une entreprise est Qwen2.5-32B-Instruct sur une seule L40S : selon l'estimation de l'auteur, il atteint environ 90% de la qualité du grand modèle pour un coût nettement inférieur. Hybrid RAG n'est donc pas un jouet de laboratoire, mais une architecture solide pour les entreprises qui veulent une recherche interne au coût total de possession lisible.

Ce que cela signifie

Hybrid RAG devient un moyen concret de faire revivre les archives d'entreprise sans transiger sur la sécurité. Pour les entreprises, c'est le passage d'une recherche chaotique dans les courriels et SharePoint à un système qui trouve le bon document en quelques secondes, indique la source de la réponse et n'envoie aucune donnée interne vers une API externe.