Pourquoi la Big Tech se noie dans l’AI slop qu’elle produit elle-même

Pourquoi Big Tech S'enfonce dans le AI-Slop qu'Elle Crée Elle-Même

Dans les derniers jours de 2025, le chef d'Instagram Adam Mosseri a publié un post qui peut difficilement être appelé autrement qu'un manifeste d'anxiété numérique. « L'authenticité est devenue infiniment reproductible », a-t-il écrit. Tout ce qui rendait les créateurs de contenu significatifs — la capacité à être authentique, à établir une connexion avec l'audience, à avoir une voix qui ne peut pas être contrefaite — est maintenant accessible à quiconque possède les bons outils.

Mosseri a proposé une solution élégante : les fabricants de caméras signeraient cryptographiquement les photographies au moment de la capture, créant une chaîne de confiance. Le résultat serait un système fiable pour déterminer ce qui n'est pas un produit de l'intelligence artificielle. Cela semble être un plan.

Le problème est que cela semble être un plan depuis plusieurs années maintenant.

The Verge a mis l'accent sur la contradiction fondamentale qui traverse toute l'industrie. Les entreprises qui ont créé et continuent à mettre à l'échelle les outils d'IA générative jouent simultanément le rôle de combattants contre les conséquences de leur propre technologie. Meta, qui possède Instagram et Facebook, développe activement ses propres modèles génératifs, intègre des fonctions d'IA dans chaque produit et encourage la création de contenu synthétique. Et ce très même dirigeant de cette très même entreprise se lamente publiquement du fait que l'authenticité est en train de mourir. Ce n'est pas l'hypocrisie au sens classique — c'est un conflit structural d'intérêts intégré au modèle économique.

Les progrès dans le domaine de la détection des deepfakes et du contenu généré par l'IA sont effectivement d'une lenteur frustrante. La norme C2PA à laquelle se réfère Mosseri suppose d'intégrer les métadonnées d'origine de l'image directement dans le fichier. Plusieurs fabricants de caméras — Sony, Leica, Nikon — expérimentent déjà cette technologie.

Mais il y a un gouffre entre un prototype de laboratoire et un déploiement de masse. L'écrasante majorité des photographies au monde sont prises sur des smartphones, et ni Apple ni Samsung n'ont encore intégré C2PA dans leurs appareils de manière à ce qu'on puisse appeler cela une norme de l'industrie. De plus, les métadonnées sont facilement supprimées lors du téléchargement sur la plupart des plateformes — y compris, ironiquement, Instagram lui-même.

Il y a un problème plus profond. Même si le marquage des photographies « authentiques » fonctionnait parfaitement, cela ne résoudrait pas la question du contenu qui existe déjà. Des milliards d'images téléchargées avant la mise en œuvre de la norme resteront non signées. L'absence de signature cryptographique ne signifiera pas qu'une photographie est fausse — cela signifiera seulement qu'elle a été prise avant l'ère du marquage ou sur un appareil sans support de la norme. Un système qui ne peut pas distinguer les vieilles photographies authentiques des contrefaçons nouvelles a une valeur limitée.

Entre-temps, l'ampleur du problème du AI-slop — le contenu synthétique de faible qualité remplissant les flux et les résultats de recherche — continue de croître de façon exponentielle. Facebook est déjà devenu une plateforme où les images générées par l'IA obtiennent des millions de likes et de partages. Les résultats de recherche de Google sont encombrés par des sites avec du texte généré par l'IA. Amazon lutte contre un flot de livres écrits par des modèles de langage. Chacune de ces entreprises est à la fois une victime et une source du problème — elles fournissent des outils pour générer du contenu, des plateformes pour le distribuer et des algorithmes qui récompensent ses propriétés engageantes.

Les critiques soulignent à juste titre que les géants de la technologie n'ont aucune incitation économique pour résoudre véritablement ce problème. Le contenu synthétique génère de l'engagement, l'engagement génère des revenus publicitaires, et les revenus publicitaires sont la raison pour laquelle ces plateformes existent. Marquer le contenu d'IA, s'il est mis en œuvre honnêtement et universellement, pourrait réduire l'interaction avec ce contenu et donc faire baisser les métriques montrées aux investisseurs dans les rapports trimestriels. À cet égard, les déclarations de Mosseri ressemblent non pas à un plan d'action, mais à un exercice de relations publiques : identifier le problème, proposer une solution technologique lointaine et continuer à profiter du statu quo.

La situation rappelle comment les entreprises de tabac ont passé des décennies à financer la recherche sur les méfaits du tabagisme tout en continuant simultanément à vendre des cigarettes. La différence est que le AI-slop ne tue pas littéralement — il détruit l'environnement informatif, mine la confiance dans les preuves visuelles et crée un monde dans lequel distinguer la vérité de la fiction devient une tâche qui requiert une expertise technique. Si les plus grandes entreprises technologiques veulent véritablement combattre ce phénomène, elles devraient commencer non pas par des signatures cryptographiques sur les caméras, mais par leurs propres produits — en limitant les outils génératifs, avec un marquage transparent sur leurs propres plateformes, avec des algorithmes qui ne pousseront pas le contenu synthétique dans les flux de milliards d'utilisateurs.

Jusqu'à ce que cela se produise, tous les discours sur la lutte contre le AI-slop resteront exactement ce qu'ils sont — du slop d'une autre sorte.