Raiffeisenbank implanta un asistente RAG en Kotlin, sin Python y sin nuevas competencias

El equipo de Raiffeisenbank construyó un asistente RAG con Kotlin y Spring Boot sin escribir una sola línea de Python. Su experiencia demuestra que el stack JVM resuelve tareas de IA tan bien como el de Python, siempre que el equipo ya trabaje con él y no quiera sumar nuevas competencias.

De dónde surgió la necesidad

Los sistemas internos de un gran banco son capas de documentos, tablas y acuerdos que no están reunidos en ningún sitio. Product owners, tech leads, CTO, directivos de nivel B-1 y empleados de gestión de costes dedican tiempo no al trabajo en el sistema, sino a buscar la información que necesitan: archivos de Excel, correos, notas locales, llamadas a compañeros. Para los empleados veteranos es simplemente una fricción. Para los nuevos, una barrera real.

La idea del asistente de IA es sencilla: reunir las respuestas en un solo lugar y ofrecerlas en lenguaje natural. El objetivo no es tener una interfaz más, sino ahorrar de verdad unos minutos en cada consulta de trabajo. Además, para los recién llegados el problema es especialmente agudo: todavía no tienen canales informales ni una persona a la que acudir sin dar explicaciones.

Por qué JVM y no Python

Python es el estándar de facto para el desarrollo de IA. LangChain, LlamaIndex, HuggingFace Transformers: todo el ecosistema maduro de IA ha crecido en Python y es ahí donde mejor funciona. Parecería la elección lógica para un proyecto de IA.

Pero el equipo de producto del banco trabaja en JVM: Kotlin, Java y Spring Boot. Pasarse a Python habría supuesto incorporar nuevos especialistas, montar un stack nuevo en torno a un único producto, crear nuevas áreas de responsabilidad y asumir riesgos adicionales en el mantenimiento. El equipo optó por quedarse en un entorno conocido. De forma deliberada, no por inercia.

Los argumentos clave a favor de JVM:

• El mantenimiento y la escalabilidad se quedan dentro del equipo actual
• No hace falta contratar desarrolladores de Python ni reciclar a los actuales
• Spring Boot aporta infraestructura lista para usar: seguridad, logging, despliegue
• El LLM se conecta por API: el modelo de lenguaje no requiere Python en el servidor
• El ecosistema JVM cuenta con bibliotecas funcionales para embeddings y bases de datos vectoriales

Resultado: un pipeline RAG completo en Kotlin, sin necesidad de incorporar nuevas competencias para una sola herramienta interna.

La documentación, un problema oculto

Una de las lecciones clave del proyecto: un sistema RAG funciona exactamente tan bien como sus datos de origen.

Cuando el asistente empezó a dar respuestas imprecisas o contradictorias, el equipo descubrió que la causa no estaba en el modelo ni en la arquitectura del pipeline, sino en los propios documentos. Hojas de Excel dispersas con distintas versiones de los mismos datos, instrucciones obsoletas que nadie había actualizado en años, registros duplicados procedentes de fuentes diferentes: todo salió a la luz en cuanto la IA empezó a apoyarse en ellos.

El proyecto dio al equipo un motivo para ordenar un conocimiento que hasta entonces se había ido acumulando sin estructura ni limpiezas periódicas. En la práctica, el asistente de IA se convirtió en una herramienta de auditoría de la documentación, aunque en un principio nadie lo había planeado.

Parte del esfuerzo no se dedicó al desarrollo, sino a poner en orden las fuentes. Es un componente poco evidente, pero prácticamente inevitable, de cualquier implantación de RAG.

Qué significa

Los equipos de JVM no están obligados a pasarse a Python para trabajar con IA. Si la experiencia y la infraestructura ya existen, pueden aprovecharse directamente. Un pipeline RAG en Kotlin y Spring Boot se construye sin pérdidas sustanciales de funcionalidad y, a cambio, con control total dentro del stack habitual.

Para bancos y fintech, donde JVM es el estándar de facto, la experiencia de Raiffeisenbank es un precedente importante: las tareas de IA pueden resolverse sin cambiar de herramientas.