Crise de confiança: por que rótulos em conteúdo de IA não salvarão a realidade

Lembra quando vídeos do local do evento eram prova irrefutável? Esqueça. Entramos oficialmente em uma era em que o ceticismo se torna a configuração padrão da percepção. O chefe do Instagram, Adam Mosseri, recentemente soltou uma bomba informativa, afirmando que a sociedade precisa parar de considerar fotografias e vídeos como retratos precisos da realidade. Não é apenas uma opinião privada, é um reconhecimento de capitulação das maiores plataformas diante de uma onda de deepfakes.

No centro dessa batalha pela verdade está o padrão C2PA, ou Content Credentials. A Adobe liderou essa iniciativa, trazendo Microsoft, Google e até OpenAI como aliados. A ideia parecia sólida: embutir um "pasaporte digital" em cada arquivo que revelasse quando uma foto foi tirada, quem a editou e se a inteligência artificial teve alguma participação. Mas na prática, o sistema parece uma peneira furada. A própria OpenAI admite que os metadados C2PA são incrivelmente fáceis de remover—intencionalmente ou acidentalmente ao fazer upload em redes sociais.

O problema é que a indústria nunca conseguiu concordar sobre as regras do jogo. Enquanto Google implementa essas etiquetas em seus smartphones Pixel, a Apple—a principal fabricante de câmeras do mundo—mantém um silêncio misterioso. Sem a participação do iPhone, qualquer tentativa de criar um padrão unificado de autenticidade está condenada ao fracasso. Além disso, ninguém está se apressando para atualizar câmeras antigas. Fotógrafos não estão correndo para comprar novos corpos só para obter um selo "verificado", e fabricantes como Sony e Nikon estão extremamente relutantes em compartilhar seus planos de atualização de firmware para modelos antigos.

A situação é agravada pela imprecisão do próprio conceito de "fotografia". Estamos vivendo há cinco anos em um mundo de fotografia computacional, onde apertar o botão do obturador ativa dezenas de algoritmos de processamento. Modo noturno, costura de quadros, HDR—isso já é IA ou ainda não? O Google agora afirma que o objetivo de uma câmera é capturar "memórias", não momentos no tempo. Quando os limites da realidade estão tão borrosos no nível de hardware, exigir marcação clara de "verdade/falsidade" do software torna-se sem sentido.

A comunidade criativa também não está entusiasmada. O rótulo "Feito com IA" é frequentemente percebido como um estigma que desvaloriza o trabalho do artista. Plataformas como Instagram já tentaram colar esses badges em tudo, mas recuaram rapidamente sob uma enxurrada de críticas. Criadores de conteúdo estão furiosos, usuários estão confusos, e os algoritmos de mídia social continuam gerando "lixo informativo" porque traz visualizações e lucro. Corporações como Meta e Google têm um conflito de interesses: gastam bilhões desenvolvendo IA enquanto simultaneamente precisam nos convencer de que essa IA é uma ameaça que precisa ser rotulada.

Nos encontramos em um ponto estranho, onde até governos usam manipulação com IA para propaganda, enquanto gigantes de tecnologia levantam as mãos. A esperança de que metadados salvarão nosso entendimento coletivo da realidade está desaparecendo. Provavelmente enfrentaremos regulamentações rigorosas dos governos, mas nem isso nos devolverá a simplicidade com que antes confiávamos nos quadros dos nossos feeds de notícias. A realidade não está apenas mudando—está se tornando uma questão de fé, não de fatos.

O ponto-chave: O padrão C2PA em sua forma atual não consegue cumprir seu papel de salvador da realidade. Sem a participação da Apple e disciplina rigorosa das redes sociais, a marcação de IA permanecerá apenas um elemento decorativo. Conseguiremos sequer confiar em informações visuais em alguns anos?