Profetas de IA por assinatura: por que o Jesus digital não vai ajudá-lo

Imagine que você entra em uma loja de aplicativos para comprar um pouco de paz de espírito por $9,99 por mês. Parece o começo de uma distopia ao estilo de Philip K. Dick, mas para o mercado de tecnologia moderno é apenas outro nicho. O surgimento dos chamados "IAs-Jesus" e outras encarnações digitais de profetas tornou-se uma continuação lógica, embora perturbadora, do boom dos grandes modelos de linguagem. Ensinamos redes neurais a escrever código, desenhar pessoas estranhas com seis dedos e redigir cartas de demissão para funcionários. Agora confiamos a elas a coisa mais íntima — nossas crises existenciais e a busca pelo sentido da vida.

Todo esse carnaval de santidade digital levanta muitas questões, e Katherine Turbek, da Bloomberg, bate no ponto mais sensível. O problema principal não é que o algoritmo pode cometer um erro ou falar heresia. O problema é o modelo de negócios em si. Quando seu mentor espiritual funciona em um sistema freemium, ele deixa de ser um condutor para a verdade e se torna um gerente de vendas comum. Um profeta com assinatura é um oxímoro que de alguma forma engolimos sem engasgar. Se um bot é motivado a manter sua atenção para que você não cancele sua assinatura no próximo mês, ele dirá o que você quer ouvir, não o que você realmente precisa.

Tecnicamente, esses sistemas são apenas GPT-4 ou Claude, apenas estilizados com um prompt de sistema específico e treinados em textos religiosos. Eles manuseiam citações com virtuosidade, criando a ilusão de compreensão profunda. Mas por trás dessa fachada não há nada além de previsão estatística do próximo token. A rede neural não acredita no que diz. Ela não sente empatia pela sua tristeza e não se alegra com seus sucessos. Ela simplesmente seleciona as palavras mais prováveis que nesta cultura estão associadas à sabedoria. É uma espécie de fast food espiritual: calórico, rápido, mas totalmente desnutrido para a alma.

Por que isso está acontecendo agora? Vivemos em uma era de solidão total e crise das instituições tradicionais. Ir à igreja, sinagoga ou mesquita para muitos é um passo muito complexo, que exige interação social real e responsabilidade. Mas um chatbot está sempre à mão. Ele não o julgará, está disponível vinte e quatro horas por dia, e está sempre ao seu lado. É o substituto ideal para a proximidade. No entanto, substituir a comunicação ao vivo por uma resposta algorítmica tem consequências. Quando uma pessoa confia seus medos mais profundos a uma máquina, ela se torna extremamente vulnerável a manipulações.

Não devemos esquecer também dos riscos puramente técnicos. As alucinações de redes neurais não são um bug — são uma característica de sua arquitetura. No contexto de escrever uma receita de bolo, um erro pode ser engraçado. No contexto de orientação espiritual, pode ser catastrófico. Se um profeta de IA de repente decidir que a automutilação é o caminho mais curto para a purificação, quem será responsabilizado? Os desenvolvedores que se esconderam atrás de um acordo de usuário de quarenta páginas? Ou o próprio algoritmo, que é impossível colocar em julgamento?

A indústria de IA-religião está apenas começando, mas já nos mostra um espelho refletindo nossos maiores medos. Temos tanto medo de ficar sozinhos com nossos pensamentos que estamos dispostos a pagar por uma imitação da presença divina. Mas a verdade é que nenhuma placa gráfica pode gerar sinceridade. Estamos construindo novos templos feitos de silício e código, esquecendo que a religião sempre foi sobre a conexão entre pessoas, não uma interface entre um ser humano e um banco de dados.

O resultado final: profetas de IA não são sobre fé — são sobre monetização eficiente da solidão. Estamos prontos para admitir que nossa salvação agora depende da estabilidade do servidor e do saldo na conta bancária?