OpenAI bannit des réseaux d'influence russes et iraniens : 7 faux journalistes et 100 articles

Deux opérations d'influence de grande ampleur démasquées

OpenAI a révélé et bloqué deux opérations d'influence coordonnées : l'opération russe « Dark Clark » et l'opération iranienne « Bogus Bylines ». À la différence des campagnes classiques sur les réseaux sociaux, les deux ont misé sur une stratégie consistant à injecter du faux contenu directement dans des sources médiatiques légitimes, ce qui garantissait une crédibilité et une portée maximales. L'intelligence artificielle a surtout servi au reporting interne et à l'adaptation du contenu de propagande à différentes langues et régions, permettant une localisation rapide des matériaux pour les audiences ciblées.

La campagne russe «

Dark Clark » : désinformation contre l'Ukraine

L'opération russe « Dark Clark » a mené une campagne d'influence ciblée en Amérique latine visant à discréditer l'Ukraine et à déstabiliser la situation politique de la région. L'opération reposait sur le contrôle d'un think tank dirigé par une personne fictive. Selon OpenAI, l'équipe a fait travailler des employés locaux pour l'organisation sans qu'ils aient conscience de sa véritable appartenance ni de ses objectifs réels.

L'opération a synthétisé et diffusé de faux fichiers audio, des documents fabriqués et des contenus de désinformation. Ces faux ont provoqué des démentis officiels de la part de gouvernements et une attention active des fact-checkers en Équateur et au Pérou, créant l'apparence d'un véritable retentissement public et suscitant une réaction politique. L'ampleur de la campagne est telle qu'OpenAI lui a attribué la catégorie 5 sur 6 de sa propre Breakout Scale, utilisée pour évaluer l'efficacité des opérations d'influence. C'est le premier cas enregistré d'atteinte de la cinquième catégorie depuis deux ans et demi. Une telle évaluation n'est attribuée que lorsque des responsables politiques des pays ciblés réagissent au contenu diffusé au niveau de l'État.

La campagne iranienne «

Bogus Bylines » : un réseau de sept faux journalistes

L'opération iranienne « Bogus Bylines » a utilisé un réseau de sept identités journalistiques fictives pour placer près de 100 articles sur le thème du conflit américano-iranien dans des médias en ligne à travers le monde. La stratégie visait à s'infiltrer dans des publications d'information légitimes, ce qui donnait à la désinformation l'apparence d'une information officielle et renforçait sa crédibilité.

Outre la publication d'articles, l'opération a généré des commentaires et des discussions supplémentaires sur les réseaux sociaux pour créer l'illusion d'un intérêt public organique. Cependant, la composante sociale de la campagne s'est révélée d'une efficacité minimale et n'a pratiquement pas trouvé de diffusion, contrairement aux publications médiatiques directes.

Rôle de l'IA et mesures prises

Les deux campagnes ont utilisé de grands modèles de langage et des outils d'IA, mais principalement à des fins opérationnelles internes : rédaction et analyse de rapports sur les résultats de la campagne, adaptation du contenu de propagande aux particularités linguistiques et culturelles des régions ciblées. L'ampleur de l'utilisation directe de l'IA pour la création automatisée de contenu est restée limitée.

OpenAI a bloqué tous les comptes ChatGPT identifiés liés aux deux opérations, privant les acteurs malveillants d'accès aux outils. L'entreprise rappelle également avoir précédemment révélé une autre campagne russe, construite sur l'utilisation des réseaux sociaux et d'un think tank fictif comme infrastructure de diffusion de désinformation.