IA e a crise da verdade: tememos a coisa errada

Lembra quando os deepfakes eram o grande bicho-papão da IA? Prometeram um apocalipse em que não conseguiríamos distinguir um vídeo do presidente do trabalho de uma rede neural. Nos preparamos para uma guerra pela verdade, armados com detectores e checagem de fatos. Mas parece que ignoramos o mais importante: a IA não quebra a imagem na tela, e sim a nossa forma de perceber a realidade. Descobrimos que, mesmo ao flagrar uma rede neural mentindo, o dano já está feito.

O conceito de "decomposição da verdade" é debatido há anos, mas agora entrou numa fase que poucos previam. Tradicionalmente, achávamos que a solução estava na tecnologia: criar marcas d'água, treinar classificadores, e tudo ficaria bem. Porém, pesquisas psicológicas mostram algo assustador. Mesmo quando a pessoa sabe que o conteúdo foi criado por IA, a informação falsa se fixa na memória e influencia julgamentos futuros. É uma espécie de vírus mental contra o qual não temos imunidade.

O que realmente mudou foi o custo de produzir dúvida. Antes, para minar a confiança em um acontecimento, eram necessários os recursos de grandes grupos de mídia ou de serviços de inteligência. Agora bastam alguns prompts para um modelo de linguagem. Mas a ironia é que a principal vítima não é a mentira, e sim a própria verdade. Num mundo em que tudo pode ser falso, a saída mais fácil para a psique é se recusar a acreditar em qualquer coisa. Esse estado é chamado de "dividendo do mentiroso": agora qualquer político ou empresa pode alegar que uma gravação real e comprometedora é apenas uma "geração de rede neural".

Focamos por tempo demais na pergunta "como distinguir um fake?" e ignoramos a pergunta "como preservar a confiança?". Enquanto engenheiros tentam embutir marcas invisíveis nos pixels, a sociedade perde o chão comum. Antes discutíamos a interpretação dos fatos; agora discutimos a própria existência deles. E aí está a principal armadilha: quanto mais treinamos a desconfiança em relação à IA, mais vulneráveis ficamos à manipulação no mundo real.

A situação piora porque os algoritmos das redes sociais continuam premiando engajamento, não precisão. Conteúdo de IA que provoca raiva ou euforia se espalha mais rápido que qualquer desmentido. O resultado é um ambiente em que a verdade simplesmente não compensa em termos de alcance. Estamos construindo infraestrutura digital sobre areia movediça, e por ora não há nenhuma solução arquitetônica séria capaz de corrigir isso.

Em vez de procurar uma "bala de prata" técnica, teremos de admitir: a crise da verdade não é um bug técnico, e sim uma patologia social. Nos acostumamos a confiar nos próprios olhos e ouvidos, mas essa era acabou. Agora a confiança precisa se apoiar na reputação das instituições e na transparência dos processos, não na qualidade da imagem. Mas estamos prontos para uma reestruturação tão radical do pensamento?

Em resumo: o problema não é que a IA minta bem demais, e sim que deixamos de acreditar na verdade com facilidade demais. Conseguiremos restaurar a confiança antes que ela se torne de vez um artefato do passado?