X contra deepfakes: Elon Musk anuncia rotulagem de conteúdo (mas há um porém)

Elon Musk, que se define como um "absolutista da liberdade de expressão", mais uma vez nos deixa tentando adivinhar o que acontece dentro de sua empresa. Desta vez, ele soltou, do seu jeito, que o X vai começar a identificar "mídia manipulada". Curto, direto e tecnicamente incompreensível. Já nos acostumamos a ver novidades do X serem apresentadas como teasers de blockbusters, mas aqui está em jogo algo maior do que um novo recurso para assinantes do Premium. É uma tentativa de conter o caos que o próprio Musk provocou em parte ao desmontar as equipes de moderação e confiar a checagem de fatos à comunidade.

Vamos recordar o contexto. Depois de comprar o Twitter, Musk mudou radicalmente a abordagem do conteúdo. Equipes que passaram anos construindo filtros de segurança foram parar na rua, e o lugar delas foi ocupado pelas Community Notes, sistema em que os próprios usuários sinalizam posts duvidosos. Funcionou razoavelmente bem contra boatos em texto, mas o crowdsourcing é impotente diante de uma avalanche de deepfakes. Quando redes neurais como Sora ou Runway permitem que qualquer pessoa "dê vida" a qualquer mentira, a checagem manual lembra a tentativa de esvaziar o oceano com uma colher. A plataforma precisa de um juiz automatizado e, ao que tudo indica, Musk decidiu criá-lo.

O que mudou, exatamente? Por ora, só há uma promessa. Musk não especificou se o sistema vai usar detectores baseados em redes neurais para procurar vestígios de geração ou se o X vai apenas adotar padrões abertos como o C2PA, que embutem assinaturas digitais nos arquivos. Provavelmente veremos um híbrido. Com o Grok e a capacidade computacional da xAI, seria estranho não usar tecnologia própria para analisar conteúdo visual. O problema, porém, é que hoje qualquer detector de IA erra, e com frequência nos dois sentidos. Corremos o risco de ver rótulos de "manipulação" em vídeos totalmente reais, porém inconvenientes, enquanto falsificações sofisticadas passam pelos filtros.

Por que isso importa agora? A indústria está num ponto sem volta. Reguladores da União Europeia e dos EUA estão no encalço de Musk, exigindo medidas duras contra a desinformação, principalmente às vésperas de grandes eventos políticos. Meta* e Google já prometeram rotular conteúdo de IA, e o X não pode simplesmente ficar de fora se quiser manter seus orçamentos publicitários e evitar multas gigantescas. Para Musk, é também uma questão de imagem: ele tenta provar que sua plataforma "livre" pode ser mais segura e honesta que as concorrentes "censuradas".

Ligando isso aos acontecimentos anteriores, nota-se uma trajetória interessante. Primeiro vieram o caos e a abolição de todas as regras; depois, a tentativa de transferir a responsabilidade aos usuários; e agora, a volta ao controle algorítmico, desta vez sob o verniz da "alta tecnologia". É o ciclo clássico de Musk: destruir o antigo, perceber que ele funcionava por um motivo e tentar reinventar a mesma coisa chamando de inovação. A questão é quão transparentes serão os critérios de "manipulação". Se por trás houver um algoritmo enviesado, teremos não um feed limpo, mas uma nova ferramenta de manipulação da opinião pública.

No fim das contas, o sucesso da iniciativa depende de quão profundamente o X integrar a verificação à estrutura da própria plataforma. Se for apenas mais um ícone discreto no canto da tela, servirá de pouco. Se o algoritmo passar a reduzir o alcance desses posts, veremos um grande escândalo sobre um "gulag digital", assunto de que o próprio dono do X tanto gosta de falar. A ironia é que, em busca da verdade, Musk se vê obrigado a construir a mesma máquina de censura que prometeu desmontar.

O ponto principal: o X vai se tornar referência em transparência ou uma plataforma em que a "verdade" é definida pelo código fechado de Elon? Aguardamos os primeiros vídeos rotulados por engano para medir o tamanho do desastre.

*Meta é reconhecida como organização extremista e proibida na Federação Russa.