Base de connaissances RAG : 100 Go de fichiers donnent 1,5 million de fragments et 9 heures de chargement
Imaginez une entreprise qui possède 100 Go de règlements, de contrats et d'instructions, à charger dans une base de connaissances dotée d'IA (schéma RAG : recherche de passages de documents plus modèle de langage). Les fichiers se transforment en environ 1,5 million de fragments de texte. Leur traitement sur une seule carte graphique prend environ 9 heures ; pour 10 To, on atteint déjà 38 jours. Le matériel se dimensionne donc d'après le nombre de fragments, et non en gigaoctets. Et l'on commence par nettoyer les données, pas par choisir le modèle.
Traité par IA depuis Habr AI ; édité par Hamidun News
Une entreprise veut que ses employés posent des questions sur les documents internes en langage courant et obtiennent une réponse assortie d'un lien vers la source. Pour cela, elle construit une base de connaissances sur le schéma RAG : le système retrouve les passages pertinents et les transmet à un modèle de langage, qui rédige la réponse. La question centrale de l'architecte : combien cela coûtera-t-il en matériel ?
La réponse est inattendue : ce n'est pas le modèle qui détermine la taille de l'environnement, mais le nombre de fragments en lesquels on découpe les documents. Dans l'exemple des auteurs du guide, 100 Go de fichiers donnent 1,5 million de fragments (des morceaux de texte d'environ 500 tokens), et leur chargement sur une seule carte graphique (GPU) prend environ 9 heures. Pour 10 To, on passe à 150 millions de fragments et 38 jours.
Le guide a été publié par l'équipe d'ITGLOBAL.COM. Il s'agit d'un contenu de fournisseur, et les mesures ont été réalisées sur son infrastructure, mais comme check-list, il est utile à quiconque construit un tel système.
Sept maillons de la chaîne, et où ils cèdent
Le modèle de langage ne connaît pas vos documents, et le réentraîner après chaque modification d'un règlement coûte cher. On n'entraîne donc pas le modèle : à chaque question, on lui présente les fragments retrouvés. Le document est mis à jour, la réponse aussi. Prenons un employé qui demande « comment poser un congé sans solde », alors que le règlement parle de « congé sans maintien de la rémunération ». Une recherche par mots passera à côté ; une recherche par sens trouvera le bon paragraphe.
La chaîne compte sept maillons, et c'est le plus faible qui détermine la qualité de la réponse. Le plus souvent, il s'agit de la recherche, pas du modèle.
- Analyse des documents (Docling, Apache Tika, Unstructured, OCR pour les scans). Les tableaux se désagrègent, les scans russes sont lus en caractères latins, les en-têtes et pieds de page se retrouvent dans chaque fragment.
- Découpage en fragments. On découpe selon les titres et les paragraphes avec un léger chevauchement, et l'on ajoute le nom du document. Sans lui, le « tableau des compensations » de deux SLA différents paraît identique.
- Modèle d'embeddings (Qwen3-Embedding, BGE-M3, multilingual-e5, GigaEmbeddings, Gemini Embedding). On le choisit souvent d'après un classement mondial, sans le tester sur ses propres documents en russe.
- Base vectorielle (pgvector, Qdrant, Milvus, Weaviate, OpenSearch). Erreurs typiques : pas de filtre sur les droits d'accès, et mémoire nécessaire à l'index non calculée.
- Recherche par mots (BM25, recherche plein texte de PostgreSQL). Elle sert pour les numéros de contrat et les codes d'erreur. On ne peut pas additionner les scores lexicaux et sémantiques sans les ramener à une même échelle, sinon l'une des recherches écrase l'autre.
- Reranker (Qwen3-Reranker, bge-reranker, Voyage rerank, Cohere Rerank). Il prend 20 à 50 fragments retrouvés et les classe plus précisément. Si on l'appelle sans le bon modèle de requête, l'ordre devient presque aléatoire.
- Modèle de langage de réponse (Qwen, GigaChat, YandexGPT, modèles étrangers). Il faut lui interdire explicitement de répondre « de tête » lorsque le fragment nécessaire est absent.
Par-dessus, il faut une gestion des droits d'accès et un jeu de questions de contrôle avec des réponses connues. Les GPU ne sont requis que pour quatre composants : l'analyse des scans, le modèle d'embeddings, le reranker et le modèle de langage. Le reste tourne sur des serveurs ordinaires.
Quelle base vectorielle choisir
- pgvector : si PostgreSQL est déjà en place et que le volume atteint jusqu'à quelques dizaines de millions de fragments. Les droits se vérifient en SQL classique, mais l'index se construit sur des vecteurs de 2000 valeurs au maximum, et le filtre sur les droits s'applique après la recherche.
- Qdrant : une base dédiée, pour des millions à des centaines de millions de fragments. Le filtre sur les droits agit pendant la recherche même, et les vecteurs sont compressés d'un facteur 4 à 32.
- Milvus : des centaines de millions, voire des milliards de fragments, mais il faut une équipe d'exploitation : Kubernetes, etcd, stockage objet.
- Weaviate : quand il faut une recherche hybride clé en main. La compression est désactivée par défaut, et la prise en charge de la morphologie russe n'est pas annoncée.
- OpenSearch : si la recherche plein texte tourne déjà dessus. Un peu lourd pour la seule recherche vectorielle.
Repère donné par les auteurs : jusqu'à 10 millions de fragments, les cinq solutions conviennent ; de 10 à 200 millions, Qdrant ou OpenSearch avec compression ; au-delà, Milvus ou un cluster Qdrant.
Deux pièges. Premier piège : pgvector stocke le vecteur de 2560 valeurs de Qwen3-Embedding-4B, mais ne l'indexe pas. La solution : la demi-précision ou un vecteur raccourci, par exemple à 1024 valeurs. Second piège : si un employé n'a accès qu'à une petite partie de la base et que le filtre sur les droits s'applique après la recherche, il obtiendra une réponse vide. Le schéma de droits se conçoit en même temps que le choix de la base.
Dimensionner l'environnement et vérifier les données
Dans l'exemple des auteurs, le texte représente 5% du volume des fichiers, les doublons 30%, et un fragment fait 500 tokens avec un chevauchement de 15%. Résultat : 100 Go de fichiers donnent 1,5 million de fragments, 23 Go de mémoire pour des vecteurs de 2560 valeurs et environ 9 heures de chargement, avec un modèle d'embeddings traitant 20–22 mille tokens par seconde. Pour 1 To, on compte 15 millions de fragments et 4 jours ; pour 10 To, 150 millions et 38 jours.
La compression des vecteurs en int8 avec raccourcissement à 1024 valeurs divise la mémoire par 10 : pour 10 To, 230 Go au lieu de 2,3 To. Ces coefficients sont indicatifs ; les parts réelles de texte et de doublons se mesurent sur un échantillon de 1 à 2% des fichiers.
Pour les réponses, la taille de la base compte presque pour rien. Le vecteur de la question se calcule en 0,19 s, le reranking de 20 fragments prend 0,68 s, et l'essentiel du temps passe dans le modèle de langage. Pour des modèles de 26–27 milliards de paramètres, une seule carte de 80–96 Go suffit, et huit H200 pour GLM-5 sont rarement justifiés pour une base de connaissances.
La recommandation principale : commencer par les données. Gartner indique que 63% des organisations ne sont pas sûres de leurs pratiques de gestion des données. Avant d'écrire du code, il faut dresser la liste des sources avec leurs responsables, estimer les doublons (selon les praticiens, environ 30% de versions obsolètes et 20% de doublons), vérifier la qualité des scans (en dessous de 300 dpi, il y aura des erreurs), régler les questions de droits et de loi 152-FZ, puis réunir au minimum 30 questions réelles avec des réponses de référence, et idéalement 100 à 200. Deux fois moins de fichiers connectés, c'est deux fois moins de tout dans le calcul.
- 19 nov. 2026Des IA ont inscrit une école sur la liste des cibles militaires dans 70% des tests de Vals AI
- 19 nov. 2026Q.ANT et AMD font tourner un LLM de 1 milliard de paramètres avec une puce optique à la place de l'attention
- 19 nov. 2026Le mot « jeu vidéo » fait passer la propension de GPT-6 Astra à choisir des cibles de 6% à 92%
- 19 nov. 2026AWS ajoute à SageMaker un classement de plus de 70 modèles : qualité, vitesse et prix dans un seul tableau
Questions clés sur cet article
Que sait-on sur Sept maillons de la chaîne, et où ils cèdent ?
Le modèle de langage ne connaît pas vos documents, et le réentraîner après chaque modification d'un règlement coûte cher. On n'entraîne donc pas le modèle : à chaque question, on lui présente les fragments retrouvés. Le document est mis à jour, la réponse aussi. Prenons un employé qui demande « comment poser un congé sans solde », alors que le règlement parle de « congé sans maintien de la rémunération ». Une recherche par mots passera à côté ; une recherche par sens trouvera le bon paragraphe.
Que sait-on sur Quelle base vectorielle choisir ?
pgvector : si PostgreSQL est déjà en place et que le volume atteint jusqu'à quelques dizaines de millions de fragments. Les droits se vérifient en SQL classique, mais l'index se construit sur des vecteurs de 2000 valeurs au maximum, et le filtre sur les droits s'applique après la recherche. Qdrant : une base dédiée, pour des millions à des centaines de millions de fragments. Le filtre sur les droits agit pendant la recherche même, et les vecteurs sont compressés d'un facteur 4 à 32.
Que sait-on sur Dimensionner l'environnement et vérifier les données ?
Dans l'exemple des auteurs, le texte représente 5% du volume des fichiers, les doublons 30%, et un fragment fait 500 tokens avec un chevauchement de 15%. Résultat : 100 Go de fichiers donnent 1,5 million de fragments, 23 Go de mémoire pour des vecteurs de 2560 valeurs et environ 9 heures de chargement, avec un modèle d'embeddings traitant 20–22 mille tokens par seconde. Pour 1 To, on compte 15 millions de fragments et 4 jours ; pour 10 To, 150 millions et 38 jours.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
L'essentiel de l'IA — une fois par semaine
Sept actus qui ont vraiment compté, choisies à la main. Sans bruit ni communiqués.
C'est fait ! Vérifiez votre boîte mail pour la confirmation.