Hackers et escrocs en ont assez du spam d'IA : la bouillie envahit leurs forums fermés

Les cybercriminels se heurtent à un problème inattendu : une vague de contenus générés par IA a submergé jusqu'aux forums fermés et au dark web. Hackers et escrocs se plaignent désormais de l'invasion des réseaux de neurones là où ils tentent de discuter de cyberattaques et d'activités illégales.

Quand le spam atteint les bas-fonds

Le contenu d'IA est désormais partout. Les réseaux de neurones produisent articles, commentaires, publications et messages de forum si vite et à si bas coût que des plateformes classiques comme Reddit, Twitter et YouTube sont saturées de ce matériau depuis longtemps. La vague a maintenant gagné les forums fermés spécialisés, où les cybercriminels se retrouvent pour parler de leurs activités.

Pendant des années, les communautés fermées de cybercriminels ont passé pour un refuge relativement sûr. On y trouve moins de services de renseignement d'État, une meilleure modération (entre pairs) et un niveau moyen de qualité de l'information plus élevé. Les membres de ces forums débattaient de vraies méthodes de piratage, vendaient des données volées et partageaient leurs bonnes pratiques, persuadés que leurs contenus n'arriveraient pas sous des yeux extérieurs. Mais le spam d'IA s'y est aussi infiltré.

Comment le faible coût a créé le problème

• Le coût de génération de texte via API s'est effondré
• Les spambots se programment en quelques heures avec des modèles prêts à l'emploi
• Des barrières à l'entrée basses pour les malfaiteurs qui veulent polluer un forum
• Aucune protection spécialisée contre l'automatisation par IA sur les plateformes fermées
• Forte hausse de la disponibilité de modèles de langage puissants via API

Le problème, c'est que les modèles de réseaux de neurones sont désormais assez bon marché et simples d'usage. Un spambot peut être assemblé en quelques heures avec l'API d'OpenAI, l'API de Claude ou des modèles librement accessibles sur Hugging Face. Générer 10 000 messages de forum coûte maintenant trois fois rien. Les spambots se mettent à inonder les forums de contenu généré, des publications absurdes qui gonflent le compteur d'activité jusqu'à des montages plus rusés où un bot d'IA imite un membre expérimenté pour gagner en réputation, puis revendre le compte piraté. Pour l'instant, c'est même moins cher et plus efficace que d'embaucher des gens pour la même tâche.

Le paradoxe de la technologie

Il y a une certaine ironie dans cette situation. La communauté cybercriminelle, qui utilise elle-même activement technologie et automatisation à ses fins, subit maintenant les conséquences du développement de technologies très différentes. Les hackers ont été parmi les premiers adeptes de l'automatisation, des bots, des scripts et des solutions d'IA. Mais personne ne s'attendait à ce que cette vague se retourne contre eux.

Historiquement, les forums de cybercriminels avaient plusieurs longueurs d'avance sur l'internet grand public en matière de solutions techniques. Ils ont adopté le chiffrement, l'anonymat et la décentralisation avant que ces concepts ne se popularisent. Mais le spam d'IA est un problème qui passe à l'échelle bien plus vite que n'importe quelle modération traditionnelle ne peut le gérer.

«

Même dans l'internet souterrain, il n'y a plus de tranquillité », se plaignent dans ce registre des membres actifs de forums fermés.

Ce que cela signifie

La diffusion du contenu d'IA a déjà atteint une ampleur telle qu'elle touche même les niches qui cherchent le plus à s'en protéger. C'est un signal éloquent : la qualité de l'information et le contrôle des contenus ne sont plus l'affaire des seules grandes plateformes technologiques, mais une réalité mondiale qui concerne littéralement tout le monde.

Les cybercriminels sont contraints de chercher de nouveaux moyens de se protéger de l'automatisation par IA, comme le font les utilisateurs ordinaires et les organisations. L'ironie, c'est qu'ils peuvent employer les mêmes outils que leurs ennemis : des modèles de détection d'IA plus avancés, de nouvelles méthodes de vérification des utilisateurs, des architectures décentralisées. Mais c'est un problème qu'ils n'avaient clairement pas prévu de devoir résoudre.