La décharge numérique de Mark : comment Facebook est devenu une usine à cauchemars générés par IA

Si vous n'avez pas ouvert Facebook depuis longtemps, vous avez peut-être préservé un reste de sérénité. Ce qui était autrefois une plateforme pour partager des photos de petits-enfants et des nouvelles d'anciens camarades de classe s'est mué en un rêve fiévreux sans fin, fabriqué par des réseaux de neurones. Les utilisateurs tombent de plus en plus souvent sur un contenu que le web a justement baptisé « AI slop » : des déchets de basse qualité générés par intelligence artificielle, allant du grotesque au franchement effrayant. Et le problème n'est pas que l'IA dessine mal, mais que les algorithmes de Meta vous obligent littéralement à le regarder.

Tout a commencé par des images relativement inoffensives, quoique bizarres, comme le « Jésus-crevette » ou des sculptures géantes en pastèque. Mais ces derniers mois, le degré d'absurdité a grimpé. Le fil est désormais saturé d'images de soldats mutilés, d'enfants couverts de boue avec des membres en trop ou de monstres surréalistes présentés comme des « merveilles de la nature ».

Ironie du sort : Meta, qui investit des milliards dans le développement de Llama et de modèles visuels de pointe, est devenue le plus grand distributeur du contenu numérique le moins cher et le plus sale. La raison : le système favorise l'engagement à tout prix. Plus une image est choquante ou étrange, plus il est probable que quelqu'un laisse un commentaire, qu'il s'agisse de l'indignation d'une personne réelle ou de la réponse automatique d'un bot.

Ce phénomène illustre concrètement la théorie de l'« internet mort ». On observe un écosystème fermé : les réseaux de neurones génèrent des images glaçantes, des fermes de bots les likent et postent des commentaires enthousiastes du type « Amen ! », et l'algorithme de Facebook, constatant cette activité, promeut le post encore plus haut. Dans ce schéma, les vrais utilisateurs ne sont plus que des témoins accidentels, sur lesquels Meta teste sa capacité à retenir l'attention. Pour l'entreprise, c'est du business : tant que vous faites défiler le fil en vous demandant pourquoi cet enfant a huit doigts sur la photo, on vous montre de la publicité. La qualité du contenu lui-même est secondaire pour la machine publicitaire.

La situation devient dangereuse quand ces déchets d'IA se mettent à exploiter l'empathie humaine. Des escrocs utilisent des images d'« enfants malades » ou de « villes détruites » pour récolter des dons ou rediriger du trafic vers des sites douteux. Meta reste, dans cette affaire, en position d'observateur extérieur. Malgré toutes ses déclarations sur une « IA sûre » et l'étiquetage des contenus générés, le système de modération ne parvient manifestement pas à faire face à l'ampleur du problème. Dans sa course aux chiffres d'engagement, l'entreprise a créé un monstre qui dévore ce qui reste de bon sens sur la plateforme.

Que signifie cela pour l'industrie dans son ensemble ? Le plus grand réseau social du monde dégénère en décharge de contenus. Si l'on craignait hier que l'IA remplace les artistes, il faut désormais craindre qu'elle enterre définitivement la possibilité de trouver quelque chose d'authentique en ligne. Facebook devient un miroir qui ne reflète plus nos amis, mais les hallucinations les plus sombres et les plus ridicules des réseaux de neurones, validées par un algorithme sans âme pour quelques cents de profit supplémentaires.

L'essentiel : Meta a créé la machine idéale pour produire du bruit numérique, et il n'y a apparemment pas de retour en arrière possible. Sommes-nous prêts à voir bientôt tout internet ressembler à un mauvais trip de réseau de neurones ?

*Meta est reconnue comme organisation extrémiste et interdite en Russie.