Intensivo Gratis 21–22.11Intensivo gratuito de 2 días en Vibecoding (21–22 nov, 16:00 MSK) · Cohorte 3 inicia 23.11Registrarse gratis →Cohorte 3 (23.11)
LanzamientoAnálisis · En radarHabr AI→ original

Смысл.ИИ: un RAG agéntico sobre documentos corporativos, construido en Kotlin y sin Python

Un empleado pregunta a la IA «cuál es el plazo de aprobación de las vacaciones según el reglamento», y la respuesta está en uno de los archivos de la empresa. El sistema «Смысл.ИИ», basado en Kotlin y LangChain4j, busca en los documentos en varias rondas: si la primera búsqueda falla, el agente reformula la consulta. Al modelo de lenguaje solo le llegan los fragmentos encontrados, no todo el corpus. Los equipos que trabajan con JVM obtienen así un ejemplo de cómo construir un RAG de este tipo sin Python.

Procesado por IA desde Habr AI; editado por Hamidun News
Смысл.ИИ: un RAG agéntico sobre documentos corporativos, construido en Kotlin y sin Python
Fuente: Habr AI. Collage: Hamidun News.
Escuchar artículo
Ficha técnica y cifras clave
ParámetroDatos
Fuente originalHabr AI ↗
Editor jefe
Dos servicios en Spring Bootdata-processor carga los archivos y assistant gestiona el chat
Dato clave #2Apache Doris busca por palabras y por significado en un único almacén
Dato clave #3Valkey Streams transmite los tokens de la respuesta al servidor que mantiene la conexión SSE

Imagine que un empleado pregunta al asistente de IA corporativo: «¿Cuál es el plazo de aprobación de las vacaciones según el reglamento?» La respuesta está en uno de los archivos internos, y la tarea del sistema es encontrar el fragmento adecuado y responder a partir de él, no a partir de los «conocimientos del modelo sacados de internet». Este enfoque se llama RAG: antes de responder, el modelo de lenguaje (LLM) recibe los fragmentos de texto hallados en los documentos.

El RAG «agéntico» se distingue en que el propio modelo decide qué buscar y puede hacer varias búsquedas seguidas si la primera no funciona. El autor del sistema B2B «Смысл.ИИ» (smysl.

ai) ha publicado el primer análisis de una serie de tres artículos: todo está construido sobre JVM, es decir, con Kotlin, Spring Boot y la biblioteca LangChain4j, y no con el habitual Python. Para los equipos de Java y Kotlin, es un caso poco frecuente: el análisis de un producto en funcionamiento, no un tutorial.

Qué problema resuelve el producto

En una empresa mediana o grande hay muchos documentos internos, y encontrar la respuesta a una pregunta concreta lleva tiempo: hay que recorrer carpetas y almacenes de archivos y luego preguntar a los compañeros. Muchos lo simplifican subiendo los archivos a un chat externo como ChatGPT «solo para analizarlos». El corpus queda así fuera del perímetro de la empresa.

En «Смысл.ИИ», la biblioteca se almacena en la infraestructura del propio sistema. Al LLM solo llegan los fragmentos encontrados, es decir, chunks o páginas completas, no todo el corpus. El modelo se conecta por API. En la demo se usa un proveedor externo, pero el mismo circuito se puede dirigir a un modelo en la nube propia o on-prem, si allí hay desplegado un endpoint compatible.

La tarea es deliberadamente acotada: una pregunta sobre archivos corporativos y una respuesta basada en ellos, con indicación de las fuentes. No es un LMS, ni sustituye a toda la base de conocimiento, ni es una plataforma de agentes.

En qué se diferencia del RAG convencional

El RAG clásico funciona en una sola pasada: búsqueda, todos los fragmentos hallados al contexto, respuesta. Aquí el LLM dispone de herramientas (tools). El agente puede buscar en varias rondas: precisar la consulta o recuperar los fragmentos que faltan, y solo después responder. Si la primera búsqueda trajo una versión equivocada del reglamento, se puede corregir antes de responder. El coste de este enfoque es evidente: más llamadas al modelo y mayor latencia. El autor no aporta mediciones, así que a partir del texto no se puede evaluar la mejora en precisión.

La carga funciona así: análisis del archivo, división en chunks y escritura de los fragmentos en el índice. Se admiten PDF, DOCX, TXT, MD y HTML; el análisis y la división los hace Docling.

Cómo es el stack

El backend consta de dos servicios en Kotlin y Spring Boot. El primero, data-processor, se encarga de la carga y del procesamiento pesado de los archivos. El segundo, assistant, gestiona con LangChain4j el chat, el agente y la búsqueda. El autor justifica la separación por la diferencia de carga, no por la moda de los microservicios: el pipeline de documentos y el circuito de IA pueden evolucionar y desplegarse de forma independiente.

Hay tres decisiones que conviene recordar:

  • Apache Doris almacena los fragmentos y ofrece búsqueda de texto completo y semántica en un solo lugar, sin la combinación «motor de búsqueda más base de datos vectorial». El autor admite que Qdrant también tiene ambos modos y que, en búsqueda puramente vectorial, las bases especializadas suelen rendir mejor. Pero para él pesan más un circuito único para la búsqueda híbrida y el margen de carga.
  • Valkey Streams resuelve el problema del streaming. La respuesta del LLM la genera una instancia de assistant, pero la conexión SSE del cliente puede llegar a otra. Los tokens se escriben en Valkey, y la instancia que mantiene la conexión los lee desde ahí.
  • GraalVM Native Image ofrece un arranque rápido y menos sobrecarga que la JVM convencional. El precio es una compilación más lenta.

El resto: PostgreSQL para metadatos y chats, Keycloak para la autenticación por OIDC, Caddy como proxy, almacenamiento compatible con S3 para los archivos, React en el frontend y el alojamiento de la demo en VK Cloud.

Limitaciones y próximos pasos

El código fuente es cerrado y no hay acceso público a la demo: solo capturas de pantalla y, posiblemente, un vídeo corto. La biblioteca de la demo se ha creado con documentos de una empresa ficticia. El autor apenas analiza el andamiaje del backend y describe el texto como la descripción de un producto en funcionamiento, no como una lista de comprobación de implantación «llave en mano». Por ahora no hay cifras de calidad, velocidad ni coste.

Durante el trabajo, el autor encontró limitaciones en las dependencias y abrió issues en Docling y Docling Java, además de un PR en LangChain4j.

Los dos próximos artículos se dedicarán al pipeline de procesamiento de documentos, desde Docling hasta el índice en Doris, y al agente: herramientas, búsqueda en el corpus, respuesta con fuentes y transmisión de tokens en streaming. Para los equipos de JVM es una oportunidad de ver soluciones concretas antes de decidir reescribirlo todo en Python.

Historia

Preguntas frecuentes sobre la noticia

¿Qué se sabe sobre Qué problema resuelve el producto?

En una empresa mediana o grande hay muchos documentos internos, y encontrar la respuesta a una pregunta concreta lleva tiempo: hay que recorrer carpetas y almacenes de archivos y luego preguntar a los compañeros. Muchos lo simplifican subiendo los archivos a un chat externo como ChatGPT «solo para analizarlos». El corpus queda así fuera del perímetro de la empresa. En «Смысл.ИИ», la biblioteca se almacena en la infraestructura del propio sistema.

¿Qué se sabe sobre En qué se diferencia del RAG convencional?

El RAG clásico funciona en una sola pasada: búsqueda, todos los fragmentos hallados al contexto, respuesta. Aquí el LLM dispone de herramientas (tools). El agente puede buscar en varias rondas: precisar la consulta o recuperar los fragmentos que faltan, y solo después responder. Si la primera búsqueda trajo una versión equivocada del reglamento, se puede corregir antes de responder. El coste de este enfoque es evidente: más llamadas al modelo y mayor latencia.

Cómo es el stack?

El backend consta de dos servicios en Kotlin y Spring Boot. El primero, data-processor, se encarga de la carga y del procesamiento pesado de los archivos. El segundo, assistant, gestiona con LangChain4j el chat, el agente y la búsqueda. El autor justifica la separación por la diferencia de carga, no por la moda de los microservicios: el pipeline de documentos y el circuito de IA pueden evolucionar y desplegarse de forma independiente.

ZK
Zhemal Khamidun — CPO de Alpina Digital, product manager de AlpinaGPT. Crea productos de IA desde 2019. Hamidun News es un proyecto personal que creció hasta ser un agregador en producción con más de 6.000 lectores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
¿Qué te parece?
Cargando comentarios…