La décharge numérique de Mark : comment Facebook s'est transformé en usine de cauchemars IA

Si vous n'êtes pas allé sur Facebook depuis longtemps, vous avez peut-être préservé quelques vestiges de paix mentale. Ce qui était autrefois une plateforme pour partager des photos de petits-enfants et des nouvelles d'anciens camarades de classe s'est transformé en un rêve fébrile sans fin créé par les réseaux de neurones. Les utilisateurs rencontrent de plus en plus souvent du contenu que Internet a justement surnommé "AI slop" — des ordures de mauvaise qualité générées par l'intelligence artificielle, allant du ridicule au véritablement perturbant. Et le problème n'est pas que l'IA dessine mal, c'est que les algorithmes de Meta vous forcent littéralement à le regarder.

Tout a commencé par des images relativement inoffensives, bien qu'étranges, comme "Jésus crevette" ou d'énormes sculptures de pastèque. Cependant, au cours des derniers mois, l'absurdité a augmenté. Maintenant, le fil est rempli d'images de soldats mutilés, d'enfants avec des membres supplémentaires dans la boue, ou de monstres surréalistes présentés comme des "miracles de la nature".

Ironiquement, Meta, qui investit des milliards dans le développement de Llama et des modèles visuels avancés, est devenu le plus grand distributeur du contenu numérique le moins cher et le plus sale. Cela se produit parce que le système récompense l'engagement à tout prix. Plus une image est choquante ou étrange, plus il est probable que quelqu'un laisse un commentaire — qu'il s'agisse de l'indignation d'une vraie personne ou d'une réponse automatique d'un bot.

Ce phénomène illustre vivement la théorie de l'"internet mort" en action. Nous observons un écosystème fermé : les réseaux de neurones génèrent des images horrifiantes, les fermes de bots aiment et commentent avec enthousiasme avec "Amen !", et l'algorithme de Facebook, voyant une telle activité, pousse le post encore plus haut. Les vrais utilisateurs dans ce schéma deviennent simplement des témoins aléatoires, sur lesquels Meta teste sa capacité à retenir l'attention. Pour l'entreprise, c'est du commerce : pendant que vous faites défiler le fil en essayant de comprendre pourquoi cet enfant a huit doigts, on vous montre de la publicité. La qualité du contenu lui-même est secondaire pour la machine publicitaire.

La situation devient dangereuse quand ces ordures d'IA commencent à exploiter l'empathie humaine. Les escrocs utilisent des images d'« enfants malades » ou de « villes détruites » pour collecter des dons ou diriger le trafic vers des sites web douteux. Meta prend la position d'observateur neutre. Malgré toutes les déclarations sur une "IA sûre" et l'étiquetage du contenu généré, le système de modération est clairement incapable de faire face à l'ampleur du problème. À la poursuite de chiffres d'engagement, l'entreprise a créé un monstre qui dévore les vestiges du bon sens sur la plateforme.

Que signifie cela pour l'industrie dans son ensemble ? Nous assistons à la dégradation du plus grand réseau social du monde en un état de décharge de contenu. Si nous craignions autrefois que l'IA ne remplace les artistes, nous devons maintenant craindre qu'elle n'enterre finalement la possibilité de trouver quelque chose d'authentique sur le web. Facebook devient un miroir dans lequel se reflètent non pas nos amis, mais les hallucinations les plus sombres et absurdes des réseaux de neurones, approuvées par un algorithme sans âme pour un centime supplémentaire de profit.

L'essentiel : Meta a créé la machine parfaite pour produire du bruit numérique, et il ne semble y avoir aucun retour possible. Sommes-nous prêts pour que l'ensemble d'Internet ressemble bientôt à un mauvais trip de réseau de neurones ?