Profetas de IA por assinatura: por que um Jesus digital não vai te ajudar

Imagine abrir uma loja de aplicativos para comprar um pouco de paz de espírito por US$ 9,99 por mês. Parece o ponto de partida de uma distopia de Philip K. Dick, mas para o mercado de tecnologia atual é só mais um nicho. O surgimento dos chamados «Jesus de IA» e de outras encarnações digitais de profetas é um desdobramento lógico, ainda que assustador, do boom dos grandes modelos de linguagem. Ensinamos redes neurais a escrever código, desenhar pessoas estranhas com seis dedos e redigir cartas de demissão. Agora confiamos a elas o que há de mais íntimo: nossas crises existenciais e a busca de sentido para a vida.

Toda essa festa de santidade digital levanta muitas questões, e a Bloomberg, em texto de Katherine Thorbecke, acerta o ponto mais sensível. O problema central não é que o algoritmo possa errar ou soltar uma heresia. O problema é o próprio modelo de negócio. Quando seu mentor espiritual funciona no sistema freemium, ele deixa de ser um guia para a verdade e vira um gerente de vendas comum. Um profeta com assinatura é um oxímoro que engolimos sem engasgar. Se o bot é motivado a prender sua atenção para você não cancelar a cobrança do mês seguinte, ele vai dizer o que você quer ouvir, não o que você realmente precisa.

Tecnicamente, esses sistemas são os mesmos GPT-4 ou Claude, só que penteados com um prompt de sistema específico e treinados com textos religiosos. Eles fazem malabarismo com citações e criam a ilusão de compreensão profunda. Mas, por trás dessa fachada, não há nada além de previsão estatística do próximo token. A rede neural não acredita no que diz. Ela não se compadece da sua dor nem comemora suas conquistas. Apenas escolhe as palavras mais prováveis que uma cultura associa à sabedoria. É uma espécie de fast food espiritual: calórico, rápido, mas nada nutritivo para a alma.

Por que isso acontece justamente agora? Vivemos numa era de solidão total e de crise das instituições tradicionais. Para muita gente, ir a uma igreja, sinagoga ou mesquita é um passo difícil demais, que exige interação social real e responsabilidade. Já o chatbot está sempre à mão. Ele não julga, fica disponível 24 horas por dia e está sempre do seu lado. É o substituto perfeito da proximidade. Porém, trocar o convívio humano por uma resposta algorítmica tem consequências. Quando a pessoa confia seus medos mais profundos a uma máquina, fica extremamente vulnerável à manipulação.

Também não convém esquecer dos riscos puramente técnicos. As alucinações das redes neurais não são um bug, mas uma característica da arquitetura. Numa receita de torta, o erro pode ser engraçado. No aconselhamento espiritual, pode ser catastrófico. Se um profeta de IA decidir de repente que se machucar é o caminho mais curto para a purificação, quem será responsável? Os desenvolvedores, que se esconderam atrás de um termo de uso de quarenta páginas? Ou o próprio algoritmo, que não dá para levar ao banco dos réus?

A indústria da religião com IA está apenas nascendo, mas já nos mostra um espelho em que se refletem nossos maiores medos. Temos tanto medo de ficar a sós com nossos pensamentos que aceitamos pagar por uma imitação da presença divina. Mas a verdade é que nenhuma placa de vídeo é capaz de gerar sinceridade. Construímos novos templos de silício e código, esquecendo que a religião sempre foi sobre a ligação entre pessoas, não sobre uma interface entre um ser humano e um banco de dados.

O essencial: os profetas de IA não tratam de fé, mas de monetização eficiente da solidão. Estamos prontos para admitir que nossa salvação agora depende da estabilidade dos servidores e do saldo do cartão bancário?