De jeunes entrepreneurs asiatiques monétisent des contenus haineux générés par IA sur Facebook

Une enquête des journalistes du Guardian a mis au jour un réseau mondial de diffusion de contenus haineux. Des centaines de comptes Facebook qui se présentent comme des communautés britanniques sont en réalité gérés par de jeunes entrepreneurs d'Asie du Sud. Ceux-ci utilisent l'IA pour générer des contenus toxiques et les monétiser. Il ne s'agit pas d'une guerre idéologique, mais d'une affaire d'argent.

Qui se cache derrière ces comptes

Des comptes Facebook comme Britain Today, Britannia News ou English Voice ont l'apparence de communautés organiques de Britanniques inquiets. Ce sont en réalité des usines à contenus. Derrière elles, de jeunes gens du Sri Lanka et du Pakistan, qui ne vivent pas en Grande-Bretagne et ne s'intéressent pas à sa politique. Leur objectif est simple : comprendre la monétisation de Facebook et mettre en place un système qui rapporte de l'argent. La langue, le drapeau et l'idéologie ne sont que des outils.

Quel type de contenu

L'IA génère des vidéos qui ressemblent à des témoignages de vraies personnes. Un homme se plaint que son café a cessé de servir du bacon pour ne pas offenser les musulmans. Des images du Londres victorien portent le texte « quand la ville était anglaise et belle ». Cette nostalgie passe pour une critique inoffensive du changement.

Mais la haine pure n'est jamais loin. Des mèmes qualifient l'islam de cancer. Des publications présentent des musulmans priant dans la rue comme une invasion. La théorie du grand remplacement circule. Ensemble, ces publications agissent comme des micro-toxines : chacune ressemble à une simple opinion, mais, dans le flux, elles empoisonnent lentement.

L'argent de la haine

Sur Facebook, ce sont les vues qui sont monétisées : plus l'engagement est élevé, plus les revenus augmentent. Ces jeunes Asiatiques ont repéré un arbitrage : produire des contenus haineux en anglais (un marché à forte rentabilité) et les publier via un réseau de faux comptes.

Un seul compte performant cumule 10 millions de vues par mois. Cet argent est rapatrié en Asie du Sud. Il permet d'en vivre, d'embaucher des opérateurs et d'agrandir l'usine.

• Création de contenus par IA (quasiment sans coût)
• Publication via un réseau de comptes prête-noms (apparence organique)
• Monétisation via Facebook (paiements en dollars)
• Transfert des fonds vers des pays à faible coût de la vie

Pourquoi ça marche

Facebook optimise l'engagement, c'est-à-dire la réaction, et non la vérité. La haine fait réagir : les gens cliquent, commentent et partagent sous le coup de la colère. Les algorithmes amplifient ce type de contenu en le faisant remonter dans le fil d'actualité.

La plateforme ne bloque que les infractions manifestes (appels directs à la violence). Tant qu'un compte paraît organique, son contenu reste en ligne.

Ce que cela signifie

Les outils (l'IA pour la création, les plateformes pour la publication, les paiements pour la monétisation) permettent à n'importe qui de transformer les émotions en marchandise. Les créateurs ne croient pas à l'idéologie qu'ils diffusent. Mais les conséquences sont bien réelles : ces contenus attisent les phobies, divisent les sociétés et empoisonnent le débat. Les plateformes choisissent la neutralité plutôt que la responsabilité.

*Meta est reconnue comme organisation extrémiste et interdite en Russie.