Raiffeisenbank déploie un assistant RAG en Kotlin, sans Python ni nouvelles compétences

L'équipe de Raiffeisenbank a construit un assistant RAG en Kotlin et Spring Boot, sans écrire une seule ligne de Python. Son expérience montre que la stack JVM gère les tâches d'IA aussi bien qu'une stack Python, à condition que l'équipe y travaille déjà et ne souhaite pas ajouter de nouvelles compétences.

D'où vient le besoin

Les systèmes internes d'une grande banque forment un empilement de documents, de tableurs et d'accords qui ne sont réunis nulle part. Product owners, tech leads, CTO, managers de niveau B-1, équipes de cost management : tous perdent du temps non pas sur le travail dans le système lui-même, mais à chercher l'information utile dans des fichiers Excel, des e-mails, des notes locales ou en appelant des collègues. Pour les salariés expérimentés, c'est une simple friction. Pour les nouveaux, c'est un véritable obstacle.

L'idée de l'assistant IA est simple : rassembler les réponses en un seul endroit et les restituer en langage courant. Pas une interface pour le principe, mais un gain réel de quelques minutes sur chaque requête de travail. Le problème est particulièrement aigu pour les nouveaux arrivants : ils n'ont pas encore de canaux informels ni de personne à qui s'adresser sans devoir tout réexpliquer.

Pourquoi la JVM plutôt que Python

Python est le standard de facto du développement IA. LangChain, LlamaIndex, HuggingFace Transformers : tout l'écosystème IA mature s'est construit sur Python et c'est là qu'il fonctionne le mieux. Le choix semblait donc logique pour un projet d'IA.

Mais l'équipe produit de la banque vit sur la JVM : Kotlin, Java, Spring Boot. Passer à Python aurait impliqué de recruter de nouveaux profils, de bâtir une nouvelle stack autour d'un seul produit, de créer de nouvelles zones de responsabilité et d'ajouter des risques en maintenance. L'équipe a fait un autre choix : rester dans un environnement familier. Délibérément, et non par inertie.

Les principaux arguments en faveur de la JVM :

• La maintenance et la scalabilité restent entre les mains de l'équipe existante
• Pas besoin de recruter des développeurs Python ni de former les développeurs actuels
• Spring Boot fournit une infrastructure prête à l'emploi : sécurité, logs, déploiement
• Le LLM est appelé via une API : le modèle de langage n'exige pas Python côté serveur
• L'écosystème JVM dispose de bibliothèques opérationnelles pour les embeddings et les bases vectorielles

Résultat : un pipeline RAG complet en Kotlin, sans avoir à faire appel à de nouvelles compétences pour un seul outil interne.

La documentation, un problème caché

L'une des principales leçons du projet : un RAG ne vaut que ce que valent ses données sources. Quand l'assistant a commencé à produire des réponses imprécises ou contradictoires, l'équipe a découvert que la cause ne tenait ni au modèle ni à l'architecture du pipeline. Elle tenait aux documents eux-mêmes.

Tableurs Excel éparpillés contenant des versions différentes des mêmes données, procédures obsolètes que personne n'avait mises à jour depuis des années, doublons issus de sources différentes : tout cela est apparu dès que l'IA a commencé à s'appuyer dessus. Le projet a fourni à l'équipe l'occasion de mettre de l'ordre dans des connaissances qui s'accumulaient jusque-là sans structure ni nettoyage périodique.

Dans les faits, l'assistant IA est devenu un outil d'audit de la documentation, alors que personne ne l'avait prévu au départ. Une partie de l'effort n'est pas allée au développement, mais à la remise en ordre des sources. C'est une composante peu évidente, mais pratiquement inévitable, de tout déploiement RAG.

Ce que cela signifie

Les équipes JVM n'ont pas besoin de passer à Python pour faire de l'IA. Si l'expertise et l'infrastructure sont déjà en place, elles peuvent être exploitées directement. Un pipeline RAG en Kotlin et Spring Boot se construit sans perte fonctionnelle majeure, avec en prime un contrôle total au sein d'une stack familière.

Pour les banques et les fintechs, où la JVM est le standard de facto, l'expérience de Raiffeisenbank constitue un précédent important : les problématiques d'IA peuvent se résoudre sans changer d'outils.