Qdrant et Hybrid RAG : recherche dans les documents d’entreprise sans cloud ni fuites

La recherche de documents corporatifs n'est pas entravée par un manque de données, mais par le fait que ces données sont dispersées dans des PDF, des numérisations, des feuilles de calcul et de la correspondance. Hybrid RAG offre une architecture qui permet de rechercher dans les archives internes localement, sans exposer d'informations sensibles au cloud.

Où la Recherche Échoue

RAG standard fonctionne bien sur des bases de données propres et homogènes : par exemple, des FAQ, un seul règlement ou un ensemble de documents texte purs. Mais dans le monde réel des affaires, les documents existent dans différents formats, dans deux langues et contiennent souvent non seulement du texte, mais aussi des tableaux, des codes, des numéros d'article et des pages numérisées. Dans un tel environnement, la seule recherche sémantique ne suffit pas : une requête sur des réclamations contre une contrepartie ou le code 8471300000 exige de comprendre simultanément le sens de la question et de trouver avec précision des nombres et des formulations spécifiques.

C'est là que Hybrid RAG diffère de l'approche classique. Le système n'essaie pas simplement de "nourrir" l'archive à un modèle de langage, mais recueille d'abord le contexte pertinent à partir de plusieurs types de recherche. Ceci est particulièrement important pour la logistique, les banques, les douanes et les cabinets juridiques, où l'utilisateur a besoin non pas d'un résumé général, mais d'une réponse exacte appuyée par un document, une section ou une page spécifique.

C'est pourquoi ce qui importe n'est pas seulement la recherche en elle-même, mais la capacité à vérifier le contexte trouvé avant la réponse du modèle.

Comment Fonctionne la Stack

Dans le schéma décrit, les documents subissent d'abord une analyse structurelle. Docling prépare les numérisations et la mise en page, tandis que le modèle multimodal Qwen2.5-VL aide à lire les tableaux complexes, les notes manuscrites et les pages mal reconnues. Ensuite, le modèle d'embedding BAAI/bge-m3 transforme les documents et la question de l'utilisateur en deux représentations simultanément : dense pour la recherche sémantique et creuse pour les correspondances exactes. Qdrant stocke les deux types de vecteurs et combine les résultats via RRF, donc pas besoin d'équilibrer manuellement les poids entre les deux stratégies.

• Docling normalise les fichiers entrants et prépare la structure du document
• Qwen2.5-VL aide à analyser les numérisations, les tableaux et les éléments visuels complexes
• BAAI/bge-m3 construit des vecteurs denses et creux pour les documents et les requêtes
• Qdrant effectue la recherche hybride et fusionne les résultats via RRF
• Une couche de reranking filtre les fragments non pertinents avant la réponse du modèle

Après cela, le reranking est appliqué en deux étapes : filtrage rapide et vérification plus précise avec cross-encoder. La génération de réponse reçoit non pas l'archive entière, mais un petit ensemble de fragments qui répondent réellement à la question. Ce pipeline réduit le risque d'hallucinations et permet au système de ne pas spéculer si la base ne contient simplement pas le fait nécessaire. C'est la différence entre une recherche appuyée par des documents et un résumé beau mais peu fiable.

Pourquoi Self-Hosted Importe

Le point principal de l'article est que le problème ne peut pas être résolu en connectant simplement un LLM basé sur le cloud. Dans les industries réglementées, les données ne doivent pas quitter le périmètre de l'entreprise pendant l'indexation, la recherche ou la génération de réponse. Par conséquent, l'auteur mise sur une stack self-hosted : Qdrant local, Langfuse local pour le traçage, LangGraph pour la gestion explicite des états et Haystack pour la vérification de qualité avant la production. Sinon, le système de recherche lui-même devient un nouveau point de risque de conformité et d'audit.

"Données insuffisantes" vaut mieux qu'une hallucination confiante.

Une conclusion pratique séparée concerne l'infrastructure. La qualité maximale provient de Qwen2.5-72B-Instruct, mais cela nécessite deux GPU A100 80GB. Une option de démarrage plus réaliste pour les entreprises est Qwen2.5-32B-Instruct sur un seul L40S : selon l'estimation de l'auteur, il offre environ 90 % de la qualité du modèle antérieur, mais coûte significativement moins cher. Cela rend Hybrid RAG non pas un jouet de laboratoire, mais une architecture claire pour les entreprises qui ont besoin de recherche interne avec un coût de propriété compréhensible.

Ce Que Cela Signifie

Hybrid RAG devient un moyen pratique de revitaliser les archives corporatiques sans compromettre la sécurité. Pour les entreprises, c'est un chemin de la recherche chaotique par courrier électronique et SharePoint vers un système qui en quelques secondes trouve le document nécessaire, affiche la source de la réponse et n'envoie pas les données internes à une API externe.