Crise de confiança: por que rótulos em conteúdo gerado por IA não vão salvar a realidade

Lembra da época em que um vídeo gravado no local era prova irrefutável? Esqueça. Entramos oficialmente numa era em que o ceticismo vira a configuração padrão da nossa percepção. Adam Mosseri, chefe do Instagram, soltou uma bomba recentemente ao afirmar que a sociedade precisa parar de tratar fotos e vídeos como registros fiéis da realidade. Mais do que uma opinião pessoal, a declaração equivale a admitir que as maiores plataformas capitularam diante da onda de deepfakes.

No centro dessa batalha pela verdade está o padrão C2PA, ou Content Credentials. A iniciativa é liderada pela Adobe, que trouxe como aliadas Microsoft, Google e até a OpenAI. A ideia parecia sensata: embutir em cada arquivo um "passaporte digital" que informa quando a imagem foi feita, quem a editou e se a inteligência artificial participou do processo. Na prática, porém, o sistema é uma peneira cheia de furos. A própria OpenAI admite que os metadados C2PA são incrivelmente fáceis de remover, seja de propósito, seja por acidente no upload para redes sociais.

O problema é que a indústria nunca conseguiu chegar a um acordo sobre as regras do jogo. Enquanto o Google implementa essas marcações nos smartphones Pixel, a Apple, maior fabricante de câmeras do mundo, mantém um silêncio enigmático. Sem o iPhone, qualquer tentativa de criar um padrão único de autenticidade está fadada ao fracasso. Além disso, ninguém tem pressa em atualizar câmeras antigas. Fotógrafos não vão correr atrás de corpos novos só para ganhar um selo de "verificado", e fabricantes como Sony e Nikon relutam muito em compartilhar planos de atualização de firmware para modelos mais antigos.

A situação piora porque o próprio conceito de "fotografia" está cada vez mais difuso. Há cinco anos vivemos no mundo da fotografia computacional, em que apertar o botão do obturador dispara dezenas de algoritmos de processamento. Modo noturno, empilhamento de quadros, HDR: isso já é IA ou ainda não? O Google agora chega a dizer que o objetivo da câmera é registrar "memórias", e não momentos no tempo. Quando os limites da realidade estão tão borrados já no nível do hardware, exigir do software uma marcação clara de "verdadeiro/falso" perde o sentido.

A comunidade criativa também não está nada empolgada. O rótulo "Feito com IA" costuma ser visto como um estigma que desvaloriza o trabalho do artista. Plataformas como o Instagram já tentaram aplicar esses selos a torto e a direito, mas recuaram rapidamente diante de uma enxurrada de críticas. Criadores de conteúdo estão furiosos, usuários estão confusos, e os algoritmos das redes sociais seguem multiplicando "lixo informacional", porque ele gera visualizações e lucro. Empresas como Meta e Google vivem um conflito de interesses: gastam bilhões no desenvolvimento de IA e, ao mesmo tempo, precisam nos convencer de que essa mesma IA é uma ameaça que precisa ser rotulada.

Chegamos a um ponto estranho, em que até governos usam manipulações com IA para fazer propaganda, enquanto as big techs dão de ombros. A esperança de que os metadados salvem nossa compreensão compartilhada da realidade está se esvaindo. O mais provável é que venha uma regulação estatal rígida, mas nem isso vai devolver a simplicidade com que confiávamos nas imagens do feed de notícias. A realidade está mudando, e mais: está virando uma questão de fé, e não de fatos.

O essencial: o padrão C2PA, na forma atual, não dá conta do papel de salvador da realidade. Sem a participação da Apple e sem disciplina rígida das redes sociais, a rotulagem de IA vai continuar sendo um elemento meramente decorativo. Será que ainda vamos conseguir confiar em informação visual daqui a alguns anos?

*A Meta é reconhecida como organização extremista e está proibida na Rússia.