Des chercheurs alertent : les deepfakes de Trump et de fausses militaires sont devenus une arme de propagande

Les deepfakes politiques cessent rapidement d'être de simples mèmes ou parodies. Les chercheurs préviennent que les personnages synthétiques créés avec l'IA générative gagnent déjà de l'argent, rassemblent des audiences et servent de forme commode de propagande, même si le spectateur soupçonne un faux.

L'ampleur de la nouvelle vague

Le laboratoire Governance and Responsible AI Lab (Grail) constate une forte hausse de ce type de contenu. Depuis le début de 2025, les chercheurs ont dénombré plus de 1 000 publications anglophones sur les réseaux sociaux contenant de fausses images et vidéos de responsables politiques, d'événements d'intérêt public et de sujets polémiques. À titre de comparaison, sur les huit années précédentes réunies, la base de Grail a recensé 1 344 cas similaires. Ce bond est attribué non seulement à la popularité du sujet, mais aussi au fait que les modèles génératifs ont rendu la création d'une scène vraisemblable quasi instantanée.

Le principal changement n'est pas qu'il y ait plus de faux de personnalités connues. Les créateurs inventent de plus en plus de personnages totalement inexistants et les placent dans des contextes politiquement chargés : casernes, commissariats, zones de conflit, meetings. Il ne s'agit plus seulement de remplacer le visage d'un politicien dans une vidéo, mais de construire toute une « réalité » où le spectateur reçoit non pas un fait, mais une image qui épouse commodément ses convictions. C'est la nouvelle force des deepfakes : ils n'ont pas besoin d'être exacts, il leur suffit de paraître vraisemblables.

L'argent et les convictions

L'un des exemples les plus visibles est le personnage d'IA Jessica Foster, une blonde en uniforme militaire américain apparue sur Instagram en décembre 2025. Les publications la montrant sur un lit de caserne, dans un bureau les pieds sur la table, et aux côtés de Donald Trump sur un tarmac en talons hauts ont attiré une audience énorme. Le compte comptait plus d'un million d'abonnés, et le trafic était ensuite dirigé vers OnlyFans, où l'on vendait aux utilisateurs de prétendues photos d'elle. L'image synthétique servait donc à la fois de symbole visuel politique et de produit commercial.

Des cas similaires apparaissent déjà sous plusieurs formes :

• de faux « soldats iraniens » dans des vidéos conçues pour devenir virales en temps de guerre
• une policière d'IA sur TikTok, suivie par plus de 26 000 abonnés, qui diffuse des messages de soutien à une politique d'expulsions très dure
• au moins 18 deepfakes publiés par Donald Trump et la Maison-Blanche depuis 2024
• des deepfakes contre Trump, que le gouverneur de Californie Gavin Newsom a lui aussi commencé à utiliser

Les chercheurs soulignent à part un effet désagréable : ce contenu peut convaincre même quand le spectateur remarque des anomalies. Des insignes erronés, des scènes absurdes, des détails incohérents et un style visuel trop lisse n'entravent pas forcément l'effet. Si l'image va dans le sens d'une opinion déjà établie, elle agit comme une confirmation émotionnelle. Dans cette logique, le deepfake ne sert pas à prouver un fait, mais à renforcer une impression : « ça ressemble à la vérité, donc c'est vrai ».

Étiquettes et défense

Pour l'instant, la défense repose surtout sur des standards de provenance des contenus et des étiquettes automatiques. La Coalition for Content Provenance and Authenticity promeut une approche où des métadonnées signées cryptographiquement sont intégrées à l'image ou à la vidéo : où le fichier a été créé, s'il a été modifié avec des outils d'IA et ce qu'il est devenu ensuite. L'idée est simple : si une plateforme sait lire ces informations, elle peut avertir l'utilisateur avant que le contenu synthétique n'inonde les fils.

Pour l'instant, cela fonctionne mal. Dans une expérience d'un journaliste de The Indicator, 200 images et vidéos d'IA ont été téléversées sur de grandes plateformes pour vérifier comment elles les étiquettent. Même les meilleurs résultats, ceux de LinkedIn et Pinterest, n'ont couvert qu'environ 67 % des contenus. Instagram n'a signalé que 15 des 105 images fausses.

Parallèlement, les chercheurs mettent en garde contre l'étape suivante : les AI swarms, où des réseaux de comptes synthétiques pourraient se coordonner de façon autonome, s'infiltrer dans des communautés et simuler un consensus public sans les « usines à trolls » habituelles composées de vraies personnes.

Ce que cela signifie

Le risque politique ne se réduit plus à savoir si les gens croiront littéralement le faux. Ce qui compte bien davantage, c'est qu'il fixe ou non une émotion voulue, une image de l'ennemi ou un sentiment d'avoir raison. Tant que les plateformes étiquettent lentement les contenus d'IA et que la monétisation de ces personnages va vite, les deepfakes serviront de plus en plus non seulement à divertir, mais aussi à persuader, radicaliser et vendre.

*Meta a été reconnue organisation extrémiste et est interdite en Russie.