Raiffeisenbank implementou um assistente RAG em Kotlin sem Python e sem novas competências

A equipe do Raiffeisenbank construiu um assistente RAG em Kotlin e Spring Boot — e não escreveu uma única linha de Python. Sua experiência mostra que a stack JVM lida com tarefas de IA tão bem quanto a stack Python, se o time já trabalha nela e não quer adicionar novas competências.

De Onde Veio a Tarefa

Os sistemas internos de um grande banco são camadas de documentos, tabelas e acordos espalhados em vários lugares. Gerentes de produto, tech leads, CTOs, gerentes de nível B-1, funcionários de gestão de custos — todos gastam tempo não trabalhando no sistema em si, mas procurando pela informação certa: arquivos Excel, e-mails, anotações locais, ligações para colegas. Para funcionários experientes, isso é apenas atrito.

Para novatos, é uma barreira real. A ideia de um assistente de IA é simples: coletar respostas em um único lugar e entregá-las em linguagem natural. Não uma interface pela interface, mas economia real de minutos a cada solicitação de trabalho.

E para novos funcionários, a dor é especialmente aguda — eles ainda não têm canais informais e não têm uma pessoa para recorrer sem explicações extras.

Por Que JVM, Não Python

Python é o padrão de facto para desenvolvimento de IA. LangChain, LlamaIndex, HuggingFace Transformers — todo o ecossistema maduro de IA cresceu em Python e se sente melhor lá. Parecia a escolha lógica para um projeto de IA. Mas o time de produto do banco vive em JVM: Kotlin, Java, Spring Boot. Uma transição para Python significaria trazer novos especialistas, construir uma nova stack em torno de um produto, novas áreas de responsabilidade e riscos de suporte adicionais. O time escolheu diferentemente — ficar em um ambiente familiar. Deliberadamente, não por inércia. Argumentos principais a favor da JVM:

• Suporte e escalabilidade permanecem dentro do time existente
• Não há necessidade de contratar desenvolvedores Python ou retreinar os atuais
• Spring Boot fornece infraestrutura pronta — segurança, logging, deploy
• O LLM se conecta via API — o modelo de linguagem não requer Python no servidor
• O ecossistema JVM tem bibliotecas funcionais para embeddings e armazenamentos vetoriais

Resultado: um pipeline RAG completo em Kotlin, sem necessidade de trazer novas competências para uma ferramenta interna.

Documentação como um Problema Oculto

Uma das principais lições do projeto: RAG funciona tão bem quanto os dados de origem. Quando o assistente começou a dar respostas imprecisas ou contraditórias, descobriu-se que o motivo não era o modelo ou a arquitetura do pipeline. O motivo estava nos documentos em si.

Tabelas Excel dispersas com diferentes versões dos mesmos dados, instruções obsoletas que ninguém atualizava há anos, entradas duplicadas de diferentes fontes — tudo isso se tornou visível imediatamente assim que a IA começou a depender disso. O projeto deu ao time um motivo para organizar o conhecimento que havia se acumulado sem estrutura e limpeza periódica. Essencialmente, o assistente de IA se tornou uma ferramenta de auditoria de documentação — embora ninguém planejasse isso inicialmente.

Parte do esforço foi não para desenvolvimento, mas para colocar as fontes em ordem. Este é um componente não óbvio, mas praticamente inevitável de qualquer implementação RAG.

O Que Isso Significa

Times JVM não precisam mudar para Python por IA. Se expertise e infraestrutura já foram construídas — elas podem ser usadas diretamente. Um pipeline RAG em Kotlin e Spring Boot é montado sem perdas fundamentais em funcionalidade, mas com controle total dentro da stack familiar. Para bancos e empresas fintech onde JVM é o padrão de facto, a experiência do Raiffeisenbank é um precedente importante: tarefas de IA são solucionáveis sem mudar ferramentas.