Raiffeisenbank implementó un asistente RAG en Kotlin sin Python y sin nuevas competencias

El equipo de Raiffeisenbank construyó un asistente RAG en Kotlin y Spring Boot — y no escribió una sola línea de Python. Su experiencia demuestra que el stack de JVM maneja las tareas de IA tan bien como el stack de Python, si el equipo ya trabaja en él y no quiere añadir nuevas competencias.

De Dónde Surgió la Tarea

Los sistemas internos de un banco grande son capas de documentos, tablas y acuerdos dispersos en múltiples lugares. Propietarios de producto, tech leads, CTOs, gerentes de nivel B-1, empleados de gestión de costos — todos gastan tiempo no trabajando en el sistema en sí, sino buscando la información correcta: archivos Excel, correos electrónicos, notas locales, llamadas a colegas. Para empleados experimentados, esto es solo fricción.

Para los nuevos, es una verdadera barrera. La idea de un asistente de IA es simple: recopilar respuestas en un solo lugar y entregarlas en lenguaje natural. No una interfaz por una interfaz, sino ahorro real de minutos en cada solicitud de trabajo.

Y para los nuevos empleados, el dolor es especialmente agudo — aún no tienen canales informales ni una persona a la que recurrir sin explicaciones adicionales.

¿Por Qué JVM, No Python?

Python es el estándar de facto para desarrollo de IA. LangChain, LlamaIndex, HuggingFace Transformers — todo el ecosistema de IA maduro creció sobre Python y se siente mejor allí. Parecería la opción lógica para un proyecto de IA. Pero el equipo de producto del banco vive en JVM: Kotlin, Java, Spring Boot. Una transición a Python significaría traer nuevos especialistas, construir un nuevo stack alrededor de un producto, nuevas áreas de responsabilidad y riesgos de soporte adicionales. El equipo eligió diferentemente — permanecer en un entorno familiar. Deliberadamente, no por inercia. Argumentos clave a favor de JVM:

• El soporte y la escalabilidad permanecen dentro del equipo existente
• No es necesario contratar desarrolladores de Python ni reconvertir a los actuales
• Spring Boot proporciona infraestructura lista para usar — seguridad, logging, deploy
• El LLM se conecta a través de API — el modelo de lenguaje no requiere Python en el servidor
• El ecosistema de JVM tiene bibliotecas funcionales para embeddings y almacenes vectoriales

Resultado: un pipeline RAG completo en Kotlin, sin necesidad de introducir nuevas competencias para una herramienta interna.

La Documentación como Problema Oculto

Una de las lecciones clave del proyecto: RAG funciona tan bien como los datos de origen. Cuando el asistente comenzó a dar respuestas imprecisas o contradictorias, resultó que la razón no era el modelo ni la arquitectura del pipeline. La razón estaba en los documentos mismos.

Tablas Excel dispersas con diferentes versiones de los mismos datos, instrucciones obsoletas que nadie había actualizado durante años, entradas duplicadas de diferentes fuentes — todo esto se hizo evidente inmediatamente una vez que la IA comenzó a depender de ello. El proyecto le dio al equipo una razón para organizar el conocimiento que previamente se había acumulado sin estructura ni limpieza periódica. En esencia, el asistente de IA se convirtió en una herramienta de auditoría de documentación — aunque nadie lo planeó inicialmente.

Parte del esfuerzo se dedicó no al desarrollo, sino a ordenar las fuentes. Este es un componente no obvio, pero prácticamente inevitable de cualquier implementación RAG.

Qué Significa Esto

Los equipos de JVM no tienen que cambiar a Python por IA. Si la experiencia e infraestructura ya están construidas — pueden usarse directamente. Un pipeline RAG en Kotlin y Spring Boot se monta sin pérdidas fundamentales de funcionalidad, pero con control total dentro del stack familiar. Para bancos y empresas fintech donde JVM es el estándar de facto, la experiencia de Raiffeisenbank es un precedente importante: las tareas de IA se pueden resolver sin cambiar herramientas.