Sberbank e a equipe de Andrei Kurpatov criam arquitetura contra alucinações de IA

O Sberbank revelou um trabalho de pesquisa chamado "modelo de IA da realidade psíquica humana". Participa o Laboratório de Neurociência e Comportamento Humano, liderado por Andrei Kurpatov, e o objetivo é ambicioso: dar aos agentes de IA um jeito de discutir a psique humana sem alucinações.

Sobre o que é a pesquisa

Segundo a descrição publicada, não se trata de um novo recurso de chatbot, mas de uma tentativa de descrever a realidade psíquica humana numa forma compreensível para a máquina. O Sber fala de um modelo com o qual sistemas de IA poderiam trabalhar como um mapa interno de conceitos, vínculos e estados.

Isso é especialmente importante em tarefas nas quais não basta escolher uma resposta estatisticamente plausível: é preciso manter o contexto, a lógica e as relações de causa e efeito em torno do comportamento, da motivação e da percepção de uma pessoa.

O fato de o projeto ficar com um laboratório na fronteira entre neurociência, pesquisa comportamental e IA mostra a direção do trabalho. A ideia não é apenas refinar uma rede neural com um corpus de textos de psicologia, mas se apoiar numa estrutura mais formal. Em outras palavras, a meta não é que o modelo fale bonito sobre o ser humano, e sim que invente menos e não substitua conexões reais por interpretações convenientes, porém falsas. Em temas ligados à psique isso é crítico: um erro de formulação vira facilmente um erro de conclusão.

Como pretendem reduzir os erros

O detalhe central é a arquitetura de grafos. Em geral, isso significa um sistema em que o conhecimento não é representado como texto corrido, mas como nós e vínculos entre eles. Para agentes de IA, pode ser um meio de conferir as respostas não só pela probabilidade da próxima palavra, mas também por uma estrutura explícita de conceitos. Se o modelo raciocina sobre medo, motivação, atenção ou distorções de percepção, ele pode se apoiar num mapa de relações entre essas entidades, e não em associações aleatórias dos dados de treinamento.

• registrar conceitos e seus vínculos de forma explícita
• verificar se uma nova conclusão contradiz a estrutura já conhecida
• harmonizar as respostas de vários agentes de IA entre si
• reduzir o risco de invenções onde é preciso lógica causal, e não retórica

Da formulação do Sber decorre outro ponto importante: a arquitetura foi concebida justamente para a interação dos agentes entre si. Não é mais um chatbot isolado, e sim um ambiente em que vários modelos ou módulos trocam juízos sobre uma pessoa. Nesse modo, o problema das alucinações fica ainda mais agudo: um erro pode se multiplicar rapidamente por toda a cadeia. O esquema de grafos serve como estrutura comum que mantém a discussão dentro de uma lógica combinada.

Onde pode ser útil

Se a abordagem funcionar, poderá ser aplicada em sistemas de apoio à decisão, assistentes digitais, produtos educacionais e serviços que analisam o comportamento do usuário. Não se trata necessariamente de fazer diagnósticos. Muito mais próximo é um cenário aplicado em que a IA ajuda a analisar comunicação, reações, padrões motivacionais ou erros cognitivos, mas com mais cautela e consistência.

Para o mercado corporativo isso é especialmente interessante: as empresas precisam de agentes que não apenas repitam psicologia popular, mas saibam raciocinar dentro de um modelo definido e explicar de onde vem a conclusão.

Por enquanto, porém, publicamente trata-se apenas de pesquisa. O Sberbank não revelou como a qualidade desse sistema será avaliada, quais conjuntos de dados ou referenciais de especialistas são usados nem em quais produtos o resultado aparecerá. É uma ressalva importante, porque combater alucinações é uma das tarefas mais difíceis de toda a pilha de IA. Qualquer arquitetura pode melhorar a coerência de uma resposta, mas isso ainda não garante veracidade. Por isso, a questão principal não é só como representar o conhecimento sobre a psique, mas também como validar esse conhecimento, atualizá-lo e não transferir ao modelo os erros dos próprios pesquisadores.

O que isso significa

O Sberbank mostra uma virada interessante: em vez de mais um chatbot universal, a empresa explora uma área mais restrita, porém complexa, em que estrutura, consistência e controle de erros importam para a IA. Se a abordagem de grafos funcionar, pode dar ao mercado uma nova classe de agentes que raciocinam sobre as pessoas de forma visivelmente mais cuidadosa que os LLMs comuns.