Intensif Gratuit 21–22/11Intensif gratuit de 2 jours en Vibecoding (21–22 nov, 16h00 MSK) · Cohorte 3 le 23/11S'inscrire gratuitement →Cohorte 3 (23/11)
SortieArticle R&D · Pour R&DLanceDB Blog→ original

LanceDB : l'index IVF_PQ compresse les vecteurs pour le RAG par 64 et accélère la recherche

La recherche vectorielle pour le RAG se heurte à la mémoire : un embedding de 128 nombres float32 pèse 4096 bits, et une base en contient des millions. L'index IVF_PQ de LanceDB répond à ce problème par deux mécanismes. Le PQ découpe le vecteur en morceaux et stocke, pour chacun, le numéro d'un morceau « type » proche (8 numéros de 8 bits, soit 64 bits, 64 fois moins), tandis que l'IVF partitionne l'espace en cellules et ne cherche que dans les plus proches. Avec la croissance de la base, il est donc pertinent de tester IVF_PQ sur vos propres données.

Traité par IA depuis LanceDB Blog ; édité par Hamidun News
LanceDB : l'index IVF_PQ compresse les vecteurs pour le RAG par 64 et accélère la recherche
Source : LanceDB Blog. Collage: Hamidun News.
Écouter l'article
Fiche synthèse et chiffres clés
ParamètreDonnées
Source primaireLanceDB Blog ↗
Rédacteur en chef
Chiffre clé #1128 nombres float32 (4096 bits) deviennent 8 ID de 8 bits, soit 64 bits
Chiffre clé #2nprobes vaut 20 par défaut ; un recall élevé suffit souvent avec 5 à 10 % du jeu de données
Chiffre clé #3refine_factor recalcule les candidats en mémoire : plus précis, mais plus lent

Tout système RAG finit par se heurter à une arithmétique simple : les embeddings se multiplient, et les stocker « tels quels » coûte cher. Un vecteur dense de 128 nombres float32 occupe 4096 bits, et une base réelle compte des millions de ces vecteurs. L'équipe de LanceDB a détaillé dans son blog l'index IVF_PQ, qui répond à deux problèmes à la fois.

La partie PQ (Product Quantization, « quantification par produit ») compresse chaque vecteur : dans l'exemple des auteurs, 4096 bits deviennent 64 bits, soit 64 fois moins. La partie IVF (Inverted File, « fichier inversé ») accélère la recherche : le système ne parcourt pas toute la base, mais seulement les groupes de vecteurs les plus proches.

Comment le PQ compresse un vecteur par 64

Imaginez une longue adresse qu'il faut noter brièvement. On la découpe en morceaux, on établit pour chaque morceau un répertoire de valeurs types, et on écrit non pas le morceau lui-même, mais le numéro de la ligne correspondante dans le répertoire. Le Product Quantization fonctionne de manière similaire.

Le processus comporte trois étapes. D'abord, le grand vecteur est découpé en morceaux égaux, c'est-à-dire en sous-vecteurs. La longueur du vecteur doit être divisible sans reste par le nombre de morceaux. Ensuite, pour chaque morceau, on trouve le centroïde le plus proche, c'est-à-dire le représentant typique des morceaux semblables (les auteurs l'appellent reproduction value). Enfin, on ne stocke pas le centroïde lui-même, mais son ID unique, grâce auquel il peut être restauré ultérieurement.

Dans l'exemple pédagogique, un vecteur de 12 nombres est découpé en quatre morceaux de trois nombres et devient quatre ID. Cet exemple est un jouet, et le gain y est presque invisible. À des dimensions réalistes, la situation change. Un vecteur de 128 nombres float32 occupe 128×32 = 4096 bits. Compressé en huit ID de 8 bits, il occupe 8×8 = 64 bits. La différence est de 64 fois.

Le coût est connu : le vecteur restauré ne coïncide pas avec l'original. Toute compression avec pertes perd de l'information, et le PQ ne fait pas exception. La recherche sur ces vecteurs est donc approximative.

Comment l'IVF réduit la zone de recherche

Le PQ économise la mémoire, mais ne dit pas combien de vecteurs il faut parcourir. C'est là qu'intervient l'Inverted File. L'espace est divisé en partitions, chacune contenant des vecteurs proches les uns des autres. L'auteur illustre ce principe par un diagramme de Voronoï : un ensemble de « cellules » où chaque point est rattaché au centre le plus proche.

Lorsqu'une requête arrive, le système ne balaie pas toute la base. Il identifie les cellules les plus proches et ne cherche que dans celles-ci. C'est seulement à l'intérieur de cet échantillon qu'intervient le PQ. On obtient donc une présélection grossière, suivie d'une recherche parmi les vecteurs compressés. Moins il y a de candidats, plus la réponse est rapide.

Quels paramètres ajuster en pratique

Dans LanceDB, l'index se crée en quelques lignes : les données sont chargées dans une table, puis on appelle create_index avec le nombre de partitions. L'exemple du blog utilise 10 000 vecteurs aléatoires. Précision importante : pour entraîner l'index, la table doit contenir suffisamment de données, faute de quoi les centroïdes seront de mauvaise qualité.

Lors de la recherche, trois paramètres principaux entrent en jeu :

  • limit, 10 par défaut : le nombre de résultats à renvoyer.
  • nprobes, 20 par défaut : le nombre de partitions à parcourir. Plus la valeur est élevée, plus la précision augmente, mais plus la recherche ralentit. Selon les conseils des auteurs, pour obtenir un recall élevé (la part des bons résultats retrouvés) avec une faible latence, il suffit généralement de couvrir 5 à 10 % du jeu de données.
  • refine_factor, non défini par défaut : si on l'active, le système lit des éléments supplémentaires et les retrie en mémoire. La précision augmente, mais la vitesse baisse.

Que faire de tout cela, et que ne pas en attendre

Si vous construisez un RAG ou une recherche sémantique, et que votre base grossit au rythme de votre facture de mémoire et d'infrastructure, IVF_PQ mérite d'être étudié. Les paramètres nprobes et refine_factor permettent d'arbitrer entre précision et vitesse sans reconstruire l'index.

Les limites sont honnêtes. Le document est pédagogique : il ne présente pas de benchmarks sur des données réelles, et le facteur 64 découle de la taille des vecteurs, non de mesures de la qualité de recherche. La baisse de recall sur vos propres embeddings dépend du modèle, de la dimension et du nombre de partitions, et elle doit être vérifiée sur un échantillon qui vous est propre. En revanche, comme introduction à ce que recouvre le terme « index vectoriel » et à l'origine des économies de mémoire, le texte est utile et techniquement concret.

Dossier

Questions clés sur cet article

Comment le PQ compresse un vecteur par 64?

Imaginez une longue adresse qu'il faut noter brièvement. On la découpe en morceaux, on établit pour chaque morceau un répertoire de valeurs types, et on écrit non pas le morceau lui-même, mais le numéro de la ligne correspondante dans le répertoire. Le Product Quantization fonctionne de manière similaire. Le processus comporte trois étapes. D'abord, le grand vecteur est découpé en morceaux égaux, c'est-à-dire en sous-vecteurs. La longueur du vecteur doit être divisible sans reste par le nombre de morceaux.

Comment l'IVF réduit la zone de recherche?

Le PQ économise la mémoire, mais ne dit pas combien de vecteurs il faut parcourir. C'est là qu'intervient l'Inverted File. L'espace est divisé en partitions, chacune contenant des vecteurs proches les uns des autres. L'auteur illustre ce principe par un diagramme de Voronoï : un ensemble de « cellules » où chaque point est rattaché au centre le plus proche. Lorsqu'une requête arrive, le système ne balaie pas toute la base. Il identifie les cellules les plus proches et ne cherche que dans celles-ci.

Que sait-on sur Quels paramètres ajuster en pratique ?

Dans LanceDB, l'index se crée en quelques lignes : les données sont chargées dans une table, puis on appelle create_index avec le nombre de partitions. L'exemple du blog utilise 10 000 vecteurs aléatoires. Précision importante : pour entraîner l'index, la table doit contenir suffisamment de données, faute de quoi les centroïdes seront de mauvaise qualité. Lors de la recherche, trois paramètres principaux entrent en jeu : limit, 10 par défaut : le nombre de résultats à renvoyer.

ZK
Zhemal Khamidun — CPO d'Alpina Digital, product manager d'AlpinaGPT. Conçoit des produits IA depuis 2019. Hamidun News est un projet personnel devenu un agrégateur en production avec plus de 6 000 lecteurs.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
Qu'en pensez-vous ?
Chargement des commentaires…