Les hackers et les escrocs en ont assez du spam AI : leurs forums privés sont noyés sous le contenu parasite

Les criminels informatiques ont fait face à un problème inattendu : même les forums fermés et le darknet ont été inondés de contenu généré par l'IA. Cela a forcé les pirates et les escrocs à se plaindre de la prolifération des réseaux de neurones dans les endroits où ils tentent de discuter des cyberattaques et des activités illégales.

Quand le spam atteint les profondeurs

Le contenu généré par l'IA est désormais partout. Les réseaux de neurones génèrent des articles, des commentaires, des messages et des messages de forum si rapidement et si bon marché que les plates-formes traditionnelles comme Reddit, Twitter et YouTube sont depuis longtemps saturées de ce matériel. Mais maintenant, la vague a inondé des forums fermés spécialisés, où les criminels informatiques se réunissent pour discuter de leurs activités.

Les communautés fermées de criminels informatiques étaient depuis longtemps considérées comme des refuges relativement sûrs. Il y a moins d'agences de renseignement gouvernementales, une meilleure modération (entre eux), une qualité moyenne d'information plus élevée. Les membres de tels forums ont discuté de méthodes réelles de piratage, vendu des données volées, partagé les meilleures pratiques, sachant que leur contenu ne parviendrait pas à des étrangers. Mais le spam d'IA y est arrivé aussi.

Comment les bas prix ont créé un problème

• Le coût de génération de texte via API a chuté jusqu'au fond
• Les spambots peuvent être programmés en quelques heures en utilisant des modèles prêts à l'emploi
• Faibles barrières à l'entrée pour les acteurs malveillants qui veulent inonder un forum
• Absence de protection spécialisée contre l'automatisation par l'IA sur les plates-formes fermées
• Croissance rapide de l'accessibilité des modèles de langage puissants via les API

Le problème est que les modèles de réseaux de neurones sont maintenant assez bon marché et simples à utiliser. Un spambot peut être assemblé en quelques heures en utilisant l'API OpenAI, l'API Claude ou des modèles librement disponibles sur Hugging Face. Le coût de génération de 10 000 messages de forum est maintenant une bagatelle. Les spambots inondent les forums de contenu généré—des messages sans sens pour augmenter les compteurs d'activité à des schémas plus sophistiqués où un bot d'IA imite un membre expérimenté pour construire une réputation et puis vendre un compte compromis.

Pour le moment, c'est même moins cher et plus efficace que d'embaucher des gens pour accomplir la même tâche.

Le paradoxe de la technologie

Il y a une certaine ironie dans cette situation. La communauté des criminels informatiques, qui utilise activement la technologie et l'automatisation à ses propres fins, souffre maintenant des conséquences du développement de technologies complètement différentes. Les pirates informatiques ont été parmi les premiers adoptants de l'automatisation, des bots, des scripts et des solutions d'IA. Mais personne ne s'attendait à ce que cette vague se retourne contre eux.

Historiquement, les forums de criminels informatiques étaient plusieurs pas en avant d'Internet grand public en termes de solutions technologiques. Ils ont mis en place le chiffrement, l'anonymat et la décentralisation avant que ces concepts deviennent populaires. Mais le spam d'IA est un problème qui se développe beaucoup plus rapidement que n'importe quelle modération traditionnelle ne peut le gérer.

«

Même sur l'internet clandestin, il n'y a plus de paix », se plaignent ainsi les membres des forums fermés.

Ce que cela signifie

La propagation du contenu généré par l'IA a déjà atteint une échelle où elle affecte même les niches qui essaient au maximum de s'en cacher. C'est un signal éloquent que le problème de la qualité de l'information et du contrôle de contenu n'est plus une tâche distincte des grandes plates-formes technologiques, mais une réalité mondiale qui affecte littéralement tout le monde.

Les criminels informatiques sont forcés de chercher de nouvelles façons de se protéger contre l'automatisation par l'IA, tout comme le font les utilisateurs ordinaires et les organisations. L'ironie est qu'ils peuvent utiliser les mêmes outils que leurs ennemis : des modèles de détection d'IA plus avancés, de nouvelles méthodes de vérification des utilisateurs, des architectures décentralisées. Mais c'est un problème qu'ils ne s'attendaient clairement pas à devoir résoudre.