Pesquisadores: deepfakes com Trump e militares mulheres falsas viraram arma de propaganda

Os deepfakes políticos deixam rapidamente de ser meros memes ou paródias. Pesquisadores alertam que personagens sintéticos criados com IA generativa já ganham dinheiro, formam audiências e funcionam como uma forma conveniente de propaganda, mesmo que o espectador desconfie de que está diante de uma falsificação.

A escala da nova onda

O laboratório Governance and Responsible AI Lab (Grail) registra um aumento brusco desse tipo de conteúdo. Desde o início de 2025, os pesquisadores contaram mais de 1.000 publicações em redes sociais em inglês com imagens e vídeos falsos sobre políticos, eventos de interesse público e temas polêmicos. Para comparação, nos oito anos anteriores somados, a base do Grail reuniu 1.344 casos semelhantes. O salto é atribuído não só à popularidade do tema, mas também ao fato de os modelos generativos terem tornado a criação de uma cena verossímil uma tarefa quase instantânea.

A principal mudança não é que há mais falsificações de pessoas conhecidas. Os criadores inventam cada vez mais personagens que não existem e os colocam em contextos de forte carga política: quartéis, delegacias, zonas de conflito, comícios. Já não se trata apenas de trocar o rosto de um político num vídeo, mas de construir toda uma "realidade" em que o espectador recebe não um fato, mas uma imagem que combina convenientemente com suas crenças. Essa é a nova força dos deepfakes: eles não precisam ser exatos, basta parecerem verossímeis.

Dinheiro e convicções

Um dos exemplos mais visíveis é a personagem de IA Jessica Foster, uma loira com uniforme militar americano que apareceu no Instagram em dezembro de 2025. As publicações com ela, deitada numa cama de quartel, num escritório com os pés sobre a mesa e ao lado de Donald Trump numa pista de pouso de salto alto, atraíram uma enorme audiência. A conta tinha mais de um milhão de seguidores, e o tráfego era levado ao OnlyFans, onde se vendiam aos usuários supostas fotos dela. Ou seja, a imagem sintética funcionava ao mesmo tempo como símbolo visual político e como produto comercial.

Casos parecidos já surgem em vários formatos:

• falsos "soldados iranianos" em vídeos feitos para viralizar durante a guerra
• uma policial de IA no TikTok com mais de 26.000 seguidores e mensagens de apoio a uma política dura de deportação
• pelo menos 18 deepfakes publicados por Donald Trump e pela Casa Branca desde 2024
• deepfakes contra Trump, que o governador da Califórnia, Gavin Newsom, também passou a usar

Os pesquisadores destacam à parte um efeito desagradável: esse conteúdo pode convencer mesmo quando o espectador percebe estranhezas. Insígnias erradas, cenas absurdas, detalhes que não batem e um estilo visual brilhante demais não necessariamente atrapalham o efeito. Se a imagem apoia uma opinião que a pessoa já tem, ela funciona como confirmação emocional. Nessa lógica, o deepfake não serve para provar um fato, mas para reforçar a sensação: "isso parece verdade, então é".

Rótulos e defesa

Por enquanto, a defesa se apoia principalmente em padrões de procedência de conteúdo e rótulos automáticos. A Coalition for Content Provenance and Authenticity defende uma abordagem em que metadados assinados criptograficamente são embutidos na imagem ou no vídeo: onde o arquivo foi criado, se foi editado com ferramentas de IA e o que aconteceu com ele depois. A ideia é simples: se a plataforma sabe ler essa informação, pode alertar o usuário antes que o conteúdo sintético se espalhe pelos feeds.

Por ora, isso funciona mal. Num experimento de um jornalista do The Indicator, 200 imagens e vídeos de IA foram enviados a grandes plataformas para testar como elas aplicam rótulos. Mesmo os melhores resultados, de LinkedIn e Pinterest, cobriram apenas cerca de 67% do material. O Instagram marcou somente 15 de 105 imagens falsas.

Ao mesmo tempo, os pesquisadores alertam para a próxima etapa: os AI swarms, em que redes de contas sintéticas poderiam se coordenar de forma autônoma, infiltrar-se em comunidades e imitar um consenso social sem as habituais "fábricas de trolls" de pessoas reais.

O que isso significa

O risco político não se resume mais à pergunta de se as pessoas vão acreditar literalmente na falsificação. Importa muito mais se ela reforça uma emoção desejada, a imagem de um inimigo ou a sensação de estar certo. Enquanto as plataformas rotulam devagar o conteúdo de IA e a monetização desses personagens funciona rápido, os deepfakes serão usados cada vez mais não só para entretenimento, mas também para persuasão, radicalização e vendas.

*A Meta foi classificada como organização extremista e é proibida na Rússia.