Intensivo Grátis 21–22/11Intensivo gratuito de 2 dias em Vibecoding (21–22/11 às 16:00 MSK) · Turma 3 começa 23/11Inscrever-se grátis →Turma 3 (23/11)
LançamentoAnálise · No radarHabr AI→ original

Смысл.ИИ: RAG agêntico sobre documentos da empresa foi construído em Kotlin, sem Python

Um funcionário pergunta à IA «qual é o prazo de aprovação de férias segundo o regulamento», e a resposta está em um dos arquivos da empresa. O sistema «Смысл.ИИ», feito em Kotlin e LangChain4j, pesquisa os documentos em várias rodadas: se a primeira busca erra, o agente refina a consulta. Só os trechos encontrados vão para o modelo de linguagem, e não o corpus inteiro. As equipes de JVM ganham um exemplo de como construir esse tipo de RAG sem Python.

Processado por IA de Habr AI; editado por Hamidun News
Смысл.ИИ: RAG agêntico sobre documentos da empresa foi construído em Kotlin, sem Python
Fonte: Habr AI. Colagem: Hamidun News.
Ouvir artigo
Ficha técnica e números-chave
ParâmetroDados
Fonte originalHabr AI ↗
Editor-chefe
Dois serviços em Spring Booto data-processor carrega os arquivos e o assistant conduz o chat
Dado-chave #2O Apache Doris faz busca por palavras e por significado em um único armazenamento
Dado-chave #3O Valkey Streams repassa os tokens da resposta ao servidor que mantém a conexão SSE

Imagine que um funcionário pergunte ao assistente de IA corporativo: «Qual é o prazo de aprovação de férias segundo o regulamento?» A resposta está em um dos arquivos internos, e a tarefa do sistema é encontrar o trecho certo e responder com base nele, e não com o «conhecimento do modelo vindo da internet». Essa abordagem se chama RAG: antes de responder, o modelo de linguagem (LLM) recebe os trechos de texto encontrados nos documentos.

O RAG «agêntico» se diferencia porque o próprio modelo decide o que buscar e pode fazer várias buscas seguidas se a primeira não funcionar. O autor do sistema B2B «Смысл.ИИ» (smysl.

ai) publicou a primeira análise de uma série de três artigos: tudo foi construído na JVM, ou seja, com Kotlin, Spring Boot e a biblioteca LangChain4j, e não no habitual Python. Para equipes de Java e Kotlin, é uma raridade: a análise de um produto em funcionamento, e não um tutorial.

Que problema o produto resolve

Em empresas de médio e grande porte há muitos documentos internos, e encontrar a resposta para uma pergunta específica leva tempo: é preciso vasculhar pastas e repositórios de arquivos e, depois, perguntar aos colegas. Muita gente simplifica o processo carregando os arquivos em um chat externo, como o ChatGPT, «só para analisar». Com isso, o corpus fica fora do perímetro da empresa.

No «Смысл.ИИ», a biblioteca fica na infraestrutura do próprio sistema. Só os trechos encontrados, isto é, chunks ou páginas inteiras, vão para o LLM, e não o corpus todo. O modelo é conectado por API. Na demo, usa-se um provedor externo, mas o mesmo circuito pode ser apontado para um modelo na nuvem da própria empresa ou on-prem, desde que haja ali um endpoint compatível.

A tarefa é propositalmente estreita: uma pergunta sobre arquivos corporativos e uma resposta baseada neles, com indicação das fontes. Não é um LMS, nem substitui toda a base de conhecimento, nem é uma plataforma de agentes.

Em que isso difere do RAG convencional?

O RAG clássico trabalha em uma única passada: busca, todos os trechos encontrados vão para o contexto, resposta. Aqui, o LLM tem ferramentas (tools). O agente pode buscar em várias rodadas: refinar a consulta ou coletar os trechos que faltam e só então responder. Se a primeira busca trouxe a versão errada do regulamento, isso pode ser corrigido antes da resposta. O custo dessa abordagem é claro: mais chamadas ao modelo e maior latência. O autor não apresenta medições, então não dá para avaliar, pelo texto, o ganho de precisão.

A ingestão funciona assim: parsing do arquivo, divisão em chunks, gravação dos trechos no índice. São aceitos PDF, DOCX, TXT, MD e HTML; o parsing e a divisão ficam a cargo do Docling.

Como é a stack

O backend é composto por dois serviços em Kotlin e Spring Boot. O primeiro, data-processor, cuida do carregamento e do processamento pesado dos arquivos. O segundo, assistant, conduz o chat, o agente e a busca com LangChain4j. O autor justifica a separação pela diferença de carga, e não por moda de microsserviços: o pipeline de documentos e o circuito de IA podem evoluir e ser publicados de forma independente.

Três decisões merecem atenção:

  • Apache Doris armazena os trechos e oferece busca full-text e semântica em um só lugar, sem a combinação «mecanismo de busca mais banco vetorial». O autor reconhece que o Qdrant também tem os dois modos e que, em busca puramente vetorial, bancos especializados costumam ser mais fortes. Mas, para ele, pesam mais um circuito único para busca híbrida e a folga de capacidade sob carga.
  • Valkey Streams resolve o problema do streaming. A resposta do LLM é gerada por uma instância do assistant, mas a conexão SSE do cliente pode chegar a outra. Os tokens são gravados no Valkey, e a instância que mantém a conexão os lê de lá.
  • GraalVM Native Image oferece inicialização rápida e menos overhead em comparação com a JVM tradicional. O preço é um build mais demorado.

O restante: PostgreSQL para metadados e chats, Keycloak para autenticação via OIDC, Caddy como proxy, armazenamento compatível com S3 para os arquivos, React no frontend e hospedagem da demo na VK Cloud.

Limitações e próximos passos

O código-fonte é fechado e não há acesso público à demo, apenas capturas de tela e, possivelmente, um vídeo curto. A biblioteca da demo foi montada com documentos de uma empresa fictícia. O autor quase não detalha a infraestrutura de backend e descreve o próprio texto como a descrição de um produto em funcionamento, e não como um checklist de implantação «turnkey». Ainda não há números de qualidade, velocidade e custo.

Durante o trabalho, o autor encontrou limitações nas dependências e abriu issues no Docling e no Docling Java, além de um PR no LangChain4j.

Os próximos dois artigos tratam do pipeline de processamento de documentos, do Docling até o índice no Doris, e do agente: ferramentas, busca no corpus, resposta com fontes e transmissão de tokens em streaming. Para equipes de JVM, é a chance de ver soluções concretas antes de decidirem reescrever tudo em Python.

História

Perguntas frequentes sobre a notícia

Em que isso difere do RAG convencional?

O RAG clássico trabalha em uma única passada: busca, todos os trechos encontrados vão para o contexto, resposta. Aqui, o LLM tem ferramentas (tools). O agente pode buscar em várias rodadas: refinar a consulta ou coletar os trechos que faltam e só então responder. Se a primeira busca trouxe a versão errada do regulamento, isso pode ser corrigido antes da resposta. O custo dessa abordagem é claro: mais chamadas ao modelo e maior latência.

O que se sabe sobre Que problema o produto resolve?

Em empresas de médio e grande porte há muitos documentos internos, e encontrar a resposta para uma pergunta específica leva tempo: é preciso vasculhar pastas e repositórios de arquivos e, depois, perguntar aos colegas. Muita gente simplifica o processo carregando os arquivos em um chat externo, como o ChatGPT, «só para analisar». Com isso, o corpus fica fora do perímetro da empresa. No «Смысл.ИИ», a biblioteca fica na infraestrutura do próprio sistema.

Como é a stack?

O backend é composto por dois serviços em Kotlin e Spring Boot. O primeiro, data-processor, cuida do carregamento e do processamento pesado dos arquivos. O segundo, assistant, conduz o chat, o agente e a busca com LangChain4j. O autor justifica a separação pela diferença de carga, e não por moda de microsserviços: o pipeline de documentos e o circuito de IA podem evoluir e ser publicados de forma independente.

ZK
Zhemal Khamidun — CPO da Alpina Digital, gerente de produto do AlpinaGPT. Cria produtos de IA desde 2019. O Hamidun News é um projeto pessoal que virou um agregador em produção com mais de 6.000 leitores.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
O que você acha?
Carregando comentários…