Como a Just AI ajudou um banco a romper o teto de automação com agentes de LLM

A equipe da Just AI publicou a análise de um caso real: como migrar o atendimento ao cliente de um banco de bots de NLU para agentes de LLM sem ganhar uma onda de alucinações no lugar de mais automação.

Um teto que não dá para contornar

Quando um cenário de NLU cresce para algumas centenas de ramificações, adicionar novos diálogos deixa de ajudar. O bot começa a errar em casos de borda, exige manutenção constante da rotulagem e não dá conta de formulações fora do padrão. O índice de automação estaciona. Foi exatamente isso que o banco enfrentou: o sistema de NLU maduro para cashback bateu no limite. O problema não estava na qualidade da configuração, mas na arquitetura. Os bots de NLU clássicos funcionam com regras rígidas: reconhecem as intenções para as quais foram treinados, mas lidam mal com variações semânticas e com o contexto em um diálogo longo.

O que mudou com os agentes de LLM

A Just AI propôs a migração para uma arquitetura com agentes de LLM. Em vez de uma árvore rígida de cenários, um modelo de linguagem que entende o sentido da solicitação, mantém o contexto e gera a resposta com base na base de conhecimento atualizada. Principais mudanças no sistema:

• O classificador de NLU foi substituído por compreensão via LLM, incluindo paráfrases e formulações fora do padrão
• Suporte a diálogos de vários turnos com preservação do contexto
• As respostas são construídas a partir da base de conhecimento do banco, e não de scripts fixos no código
• Foi introduzido um agente juiz que verifica cada resposta antes do envio
• Se a resposta não for confirmada por uma fonte, ela é bloqueada e o cliente é encaminhado a um operador

Agente juiz contra alucinações

O principal risco de implantar LLMs no suporte bancário são as alucinações: o modelo pode informar com confiança condições de cashback erradas ou regras inexistentes. Para um banco, isso não é só uma experiência ruim para o usuário: traz riscos regulatórios e de reputação. A Just AI resolveu o problema com uma verificação em dois níveis. O primeiro agente gera a resposta. O segundo, o agente juiz, a verifica na base de conhecimento original. O cliente recebe ou uma resposta correta ou o encaminhamento a um operador humano.

"O teto de automação não é um bug, é o limite arquitetural do NLU.

Ajudamos o banco a rompê-lo mudando a tecnologia, e não ajustando configurações", — Just AI.

O que isso significa

A transição de bots de NLU para agentes de LLM não é um upgrade, mas uma mudança de paradigma. Para bancos e outras empresas reguladas, isso só é possível com controle de qualidade embutido: aqui o agente juiz se torna um elemento arquitetural obrigatório, e não uma opção.