Habr explique pourquoi les modèles de langage et le RAG classique perdent le fil des relations

Habr a publié une analyse expliquant pourquoi l'euphorie autour des grands modèles de langage et du RAG se heurte à des limites d'architecture. L'idée centrale est simple : un modèle peut travailler avec assurance sur des documents, mais cela ne signifie pas qu'il comprend réellement les connaissances et les liens entre les faits.

Pourquoi le RAG a décollé

Le RAG est vite devenu la méthode standard pour « brancher » un grand modèle de langage sur les données d'entreprise. La logique est claire : le modèle formule bien ses réponses, résume des textes complexes et tient le style, mais sans mémoire externe, il reste limité à ce qu'il a appris à l'avance.

Il suffit d'ajouter une recherche dans les documents pour que le système ressemble à un analyste universel : il répond à partir des règlements, résume les contrats, compile des rapports et aide à retrouver les extraits utiles sans réentraîner le modèle.

Sur de petits volumes de données, cette approche impressionne vraiment. Si la base de connaissances compte des dizaines de fichiers et que les questions sont assez directes, le RAG classique remonte presque sans erreur les passages pertinents, les transmet au contexte du modèle et obtient une réponse cohérente. C'est pourquoi le schéma s'est vite imposé dans le support, les assistants internes, les services juridiques, les produits éducatifs et l'analytique : il est relativement simple à déployer et le retour pratique arrive vite.

Où commence la défaillance

Le problème est que le RAG reste par nature une surcouche de recherche, et non un véritable système de connaissances. Il sait retrouver des extraits de texte similaires, mais ne garantit pas la compréhension de la causalité, des hiérarchies et des liens cachés entre entités.

Quand l'information est dispersée dans plusieurs documents, la réponse ne peut souvent pas être extraite d'un seul paragraphe : il faut l'assembler à partir de plusieurs faits et d'étapes de raisonnement intermédiaires. C'est naturel pour un humain, mais pour le RAG classique, on touche déjà à un cas limite.

• le système renvoie les extraits les plus similaires, pas forcément les plus importants ;
• quand la base de connaissances grossit, un passage critique risque facilement de ne pas entrer dans le contexte ;
• une grande fenêtre de contexte ne règle pas le problème de la sélection et de l'ordre des données ;
• le modèle peut encore mélanger les sources et généraliser avec trop d'audace.

Résultat, le modèle peut affirmer en toute bonne foi que les données sont insuffisantes, alors que la chaîne de faits nécessaire figure déjà dans les documents.

L'article donne un exemple simple : si un texte relie Alice à Bob et qu'un autre indique que Bob a étudié les tableaux de Léonard de Vinci, un humain peut établir le lien intermédiaire. Un moteur de recherche fondé sur la similarité textuelle cherche souvent une confirmation directe et ne fait pas ce pas de lui-même. C'est là que se manifeste l'écart entre « chercher ce qui ressemble » et travailler réellement avec la connaissance.

À quoi servent les ontologies

L'auteur amène l'idée que la prochaine étape des systèmes d'IA d'entreprise est une représentation plus explicite des connaissances. Quand on compte les documents par centaines de milliers ou par millions, stocker le sens sous forme de chunks et de représentations vectorielles devient peu pratique. Il faut une structure où les entités, leurs propriétés et leurs relations sont définies explicitement, au lieu d'être reconstituées à chaque fois à la volée à partir de morceaux de texte. Sinon, le système dépend de la chance de la recherche et de la qualité de la formulation de la requête.

C'est là que les ontologies redeviennent d'actualité, un sujet longtemps jugé trop académique pour l'IA appliquée. Dans la logique de l'article, il ne s'agit pas d'abandonner les modèles de langage ou le RAG, mais de bâtir la couche suivante au-dessus. Le modèle reste nécessaire pour dialoguer en langage naturel, mais la base de connaissances doit décrire le monde non seulement par du texte, mais par des relations. Cette approche est plus complexe à mettre en œuvre, mais elle convient mieux aux tâches où comptent les dépendances, la causalité, les recoupements entre objets et les longues chaînes d'inférence.

Ce que cela signifie

Le boom du RAG ne disparaît pas, mais le marché finit peu à peu par toucher son plafond. Si un système d'IA doit faire plus que chercher des paragraphes, c'est-à-dire expliquer les liens entre les faits et tirer des conclusions solides sur de gros volumes de données, une base vectorielle seule ne suffit plus. La prochaine vague reviendra aux solutions qui combineront modèles de langage et structures de connaissances plus rigoureuses.