Смысл.ИИ : un RAG agentique sur les documents d'entreprise, construit en Kotlin sans Python
Un employé demande à l'IA : « Quel est le délai de validation d'un congé selon le règlement ? » La réponse se trouve dans l'un des fichiers de l'entreprise. Le système «Смысл.ИИ», écrit en Kotlin avec LangChain4j, cherche dans les documents en plusieurs tours : si la première recherche rate sa cible, l'agent reformule sa requête. Seuls les fragments trouvés sont envoyés au modèle de langage, pas l'ensemble du corpus. Les équipes JVM disposent ainsi d'un exemple de RAG construit sans Python.
Traité par IA depuis Habr AI ; édité par Hamidun News
Imaginez qu'un employé demande à l'assistant IA de son entreprise : « Quel est le délai de validation d'un congé selon le règlement ? » La réponse se trouve dans l'un des fichiers internes. Le système doit retrouver le bon fragment et répondre à partir de celui-ci, et non à partir des « connaissances du modèle tirées d'Internet ».
Cette approche s'appelle le RAG : avant de répondre, le modèle de langage (LLM) reçoit des extraits de texte retrouvés dans les documents. Un RAG « agentique » se distingue par le fait que le modèle décide lui-même de ce qu'il cherche et peut enchaîner plusieurs recherches si la première échoue. L'auteur du système B2B «Смысл.
ИИ» (smysl.ai) a publié le premier article d'une série de trois. Tout repose sur la JVM, c'est-à-dire sur Kotlin, Spring Boot et la bibliothèque LangChain4j, et non sur le Python habituel.
Pour les équipes Java et Kotlin, c'est une analyse rare d'un produit en production, et non un tutoriel.
Quel problème le produit résout-il
Dans une entreprise moyenne ou grande, les documents internes sont nombreux, et trouver la réponse à une question précise prend du temps : il faut parcourir les dossiers et les espaces de stockage de fichiers, puis interroger des collègues. Beaucoup simplifient la démarche en chargeant leurs fichiers dans un chat externe de type ChatGPT « pour simplement les analyser ». Le corpus sort alors du périmètre de l'entreprise.
Dans «Смысл.ИИ», la bibliothèque reste dans l'infrastructure du système. Seuls les fragments trouvés, c'est-à-dire des chunks ou des pages entières, sont envoyés au LLM, pas l'ensemble du corpus. Le modèle est connecté par API. La démo utilise un fournisseur externe, mais le même dispositif peut pointer vers un modèle hébergé dans le cloud de l'entreprise ou on-prem, à condition qu'un point d'accès compatible y soit déployé.
La tâche est volontairement étroite : une question sur des fichiers d'entreprise, et une réponse fondée sur ces fichiers, avec indication des sources. Ce n'est ni un LMS, ni un remplacement de toute la base de connaissances, ni une plateforme d'agents.
En quoi cela diffère d'un RAG classique
Le RAG classique procède en un seul passage : recherche, injection de tous les fragments trouvés dans le contexte, réponse. Ici, le LLM dispose d'outils (tools). L'agent peut chercher en plusieurs tours : reformuler la requête ou aller chercher les fragments manquants, puis répondre. Si la première recherche a remonté la mauvaise version d'un règlement, on peut corriger le tir avant la réponse. Le coût de cette approche est connu : davantage d'appels au modèle et une latence plus élevée. L'auteur ne fournit aucune mesure, si bien qu'on ne peut pas évaluer d'après le texte le gain de précision.
Le chargement fonctionne ainsi : analyse du fichier, découpage en chunks, écriture des fragments dans l'index. Les formats PDF, DOCX, TXT, MD et HTML sont pris en charge ; l'analyse et le découpage sont assurés par Docling.
Comment le stack est conçu
Le backend se compose de deux services en Kotlin et Spring Boot. Le premier, data-processor, gère le chargement et le traitement lourd des fichiers. Le second, assistant, s'appuie sur LangChain4j pour le chat, l'agent et la recherche. L'auteur justifie ce découpage par des charges différentes, et non par l'effet de mode des microservices : le pipeline de documents et le volet IA peuvent évoluer et être déployés indépendamment.
Trois choix méritent d'être retenus :
- Apache Doris stocke les fragments et offre la recherche plein texte et la recherche sémantique au même endroit, sans l'association « moteur de recherche plus base vectorielle ». L'auteur reconnaît que Qdrant propose lui aussi les deux modes, et que sur la recherche purement vectorielle, les bases spécialisées sont souvent plus performantes. Mais il privilégie un dispositif unique pour la recherche hybride, avec une marge en cas de montée en charge.
- Valkey Streams résout le problème du streaming. La réponse du LLM est générée par une instance d'assistant, alors que la connexion SSE du client peut arriver sur une autre. Les tokens sont écrits dans Valkey, et l'instance qui tient la connexion les y lit.
- GraalVM Native Image offre un démarrage rapide et une empreinte plus légère qu'une JVM classique. Le prix à payer est un temps de build plus long.
Le reste : PostgreSQL pour les métadonnées et les chats, Keycloak pour l'authentification via OIDC, Caddy comme proxy, un stockage compatible S3 pour les fichiers, React côté frontend, et l'hébergement de la démo sur VK Cloud.
Limites et suite
Le code source est fermé et il n'existe pas d'accès public à la démo, seulement des captures d'écran et, peut-être, une courte vidéo. La bibliothèque de démonstration est constituée de documents d'une entreprise fictive. L'auteur n'examine presque pas l'habillage du backend et décrit son texte comme la présentation d'un produit en fonctionnement, et non comme une check-list de déploiement « clé en main ». Il n'y a pas encore de chiffres sur la qualité, la vitesse ou le coût.
Au fil du travail, l'auteur a repéré des limitations dans les dépendances et a ouvert des issues dans Docling et Docling Java, ainsi qu'une PR dans LangChain4j.
Les deux prochains articles porteront sur le pipeline de traitement des documents, de Docling jusqu'à l'index dans Doris, puis sur l'agent : outils, recherche dans le corpus, réponse avec sources et diffusion des tokens en streaming. Pour les équipes JVM, c'est l'occasion de découvrir des solutions concrètes avant de décider de tout réécrire en Python.
- 19 nov. 2026Anthropic entre en Bourse et lève 81,3 milliards de dollars : le record de 75 milliards de SpaceX est battu
- 19 nov. 2026Infostart connecte Direct, Metrica et Wordstat à ChatGPT : 6 commandes, accès partagé
- 19 nov. 2026Les parts d'Amazon et de Google dans Anthropic valorisées $308 milliards avec une IPO à $83 l'action
- 19 nov. 2026Gemini 4 Neon de Google tourne deux fois plus vite que Carbon et coûte 17% de moins par tâche
Questions clés sur cet article
Que sait-on sur Quel problème le produit résout-il ?
Dans une entreprise moyenne ou grande, les documents internes sont nombreux, et trouver la réponse à une question précise prend du temps : il faut parcourir les dossiers et les espaces de stockage de fichiers, puis interroger des collègues. Beaucoup simplifient la démarche en chargeant leurs fichiers dans un chat externe de type ChatGPT « pour simplement les analyser ». Le corpus sort alors du périmètre de l'entreprise. Dans «Смысл.ИИ», la bibliothèque reste dans l'infrastructure du système.
Que sait-on sur En quoi cela diffère d'un RAG classique ?
Le RAG classique procède en un seul passage : recherche, injection de tous les fragments trouvés dans le contexte, réponse. Ici, le LLM dispose d'outils (tools). L'agent peut chercher en plusieurs tours : reformuler la requête ou aller chercher les fragments manquants, puis répondre. Si la première recherche a remonté la mauvaise version d'un règlement, on peut corriger le tir avant la réponse. Le coût de cette approche est connu : davantage d'appels au modèle et une latence plus élevée.
Comment le stack est conçu?
Le backend se compose de deux services en Kotlin et Spring Boot. Le premier, data-processor, gère le chargement et le traitement lourd des fichiers. Le second, assistant, s'appuie sur LangChain4j pour le chat, l'agent et la recherche. L'auteur justifie ce découpage par des charges différentes, et non par l'effet de mode des microservices : le pipeline de documents et le volet IA peuvent évoluer et être déployés indépendamment.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
L'essentiel de l'IA — une fois par semaine
Sept actus qui ont vraiment compté, choisies à la main. Sans bruit ni communiqués.
C'est fait ! Vérifiez votre boîte mail pour la confirmation.