Les cybercriminels se plaignent du déluge de contenus d'IA sur leurs forums

Les cybercriminels sont confrontés au même problème qui touche le reste d'internet depuis plusieurs mois : un déluge de contenus générés par IA sur leurs plateformes et forums.

Comment l'IA « pollue » la clandestinité

Sur les forums et sites du dark web où pirates et autres cybercriminels échangent sur les méthodes de piratage, les outils et les stratégies, des contenus produits par des réseaux de neurones ont commencé à apparaître en masse. Leur qualité laisse souvent à désirer : l'IA rédige des messages truffés d'erreurs, d'imprécisions et d'informations périmées, et il lui arrive d'halluciner entièrement des détails qui n'ont jamais existé. Les cybercriminels se plaignent que cela les empêche de trouver des discussions réellement utiles et les précieux conseils de membres expérimentés.

Le problème s'est accentué ces derniers mois, avec la simplification de l'accès aux outils de génération de contenu. Désormais, n'importe qui peut créer des dizaines de messages sur un forum en quelques minutes, et beaucoup semblent faire exactement cela.

Pourquoi cela agace les pirates

Dans les communautés clandestines, l'information est critique. Quand un pirate cherche une nouvelle méthode d'exploitation d'une vulnérabilité ou une recommandation d'outil, il a besoin d'informations exactes et éprouvées, vérifiables en pratique. Le contenu d'IA, qui comporte souvent des erreurs, des recommandations périmées ou de simples « faits » inventés, crée un « bruit » considérable dans les discussions. Les cybercriminels doivent consacrer un temps précieux à filtrer les messages inutiles pour trouver de vrais conseils et des méthodes éprouvées de pirates expérimentés, dotés d'une réputation.

C'est d'autant plus pénible que, dans les communautés clandestines, la réputation se construit sur des années, et que le contenu d'IA vient tout diluer. Le problème est particulièrement aigu sur les forums connus du dark web, où le volume de messages augmente alors que la qualité des discussions baisse nettement.

Problèmes et conséquences

• Baisse de la qualité des discussions à cause des contenus d'IA de mauvaise qualité
• Temps accru pour les pirates expérimentés pour trouver des informations utiles
• Conseils précieux dilués dans des messages générés automatiquement
• Difficulté à distinguer l'expérience réelle d'un texte généré automatiquement
• Possible baisse d'activité des utilisateurs expérimentés, agacés par le bruit

Ce que cela signifie

Le problème du spam d'IA a désormais touché jusqu'aux recoins les plus fermés et spécialisés d'internet. Il montre que les réseaux de neurones influencent l'espace informationnel pratiquement partout, que la plateforme soit légale ou non.

Pour les cybercriminels, cela signifie qu'ils doivent d'urgence trouver de nouveaux moyens de filtrer le contenu et de vérifier l'information, peut-être en passant à des canaux privés exigeant une confirmation d'identité. Pour la sécurité en général, cela pourrait même s'avérer un effet secondaire utile : les cybercriminels devront s'appuyer davantage sur des relations personnelles de confiance et sur les recommandations de sources fiables.