OpenAI bannit des réseaux d'influence russe et iranien : 7 faux journalistes et environ 100 articles

OpenAI a révélé et stoppé deux opérations d'influence, l'une russe et l'autre iranienne, et a bloqué tous les comptes qui y sont associés. La campagne russe « Dark Clark » diffusait de la désinformation en Amérique latine et a fini par susciter des réactions de responsables politiques. Elle a donc reçu la catégorie 5 sur l'échelle de 6 niveaux d'OpenAI, la note la plus élevée de toute l'histoire des rapports de l'entreprise. L'iranienne « Bogus Bylines » a opéré de façon plus subtile : sept journalistes inventés ont placé près de 100 articles dans des médias en ligne de différents pays.

Ces deux affaires montrent comment la pratique des opérations d'information a évolué. Auparavant, l'accent était mis sur les bots et les publications de masse sur les réseaux sociaux. Désormais, les opérateurs cherchent à se faire publier dans de vrais médias, où un texte bénéficie d'un tout autre niveau de crédibilité.

Dark Clark : une désinformation remarquée par les politiques

Selon OpenAI, la campagne russe visait un public latino-américain. La note record sanctionne les conséquences, et non le volume. L'échelle mesure jusqu'où l'opération a dépassé sa propre « bulle » d'audience et si elle a provoqué un écho dans le monde réel. À cet égard, les réactions de responsables politiques constituent un indice fort : le faux a cessé de circuler entre bots et est entré dans l'agenda public.

Au fil des années de publication de ces rapports, l'opération type restait à des niveaux bas : les textes étaient générés et publiés, mais presque personne ne les lisait. « Dark Clark » a brisé ce schéma. Pour l'industrie, c'est une raison de revoir l'hypothèse selon laquelle la propagande par IA reste pour l'essentiel du bruit.

Bogus Bylines : sept auteurs qui n'existaient pas

L'opération iranienne fonctionne autrement. Au lieu d'une campagne bruyante sur les réseaux sociaux, ses auteurs ont créé sept journalistes fictifs et ont poussé des contenus vers des médias en ligne par leur intermédiaire. Près de 100 publications dans le monde représentent en moyenne 14 textes par auteur inexistant. Pour une rédaction, un tel pigiste ressemble à une personne ordinaire avec un portfolio, et c'est précisément sur cela que repose le procédé.

Les chiffres clés du rapport :

• Dark Clark (Russie) : région ciblée : Amérique latine, catégorie 5 sur 6, première note de ce niveau dans les rapports d'OpenAI.
• Bogus Bylines (Iran) : 7 faux journalistes, près de 100 articles, des médias touchés dans le monde entier.
• Mesures : blocage de tous les comptes identifiés liés aux opérations.
• Canal d'injection : de vrais sites d'information, et pas seulement les réseaux sociaux.

Ce que l'on sait, et ce que l'on ignore encore

Le résumé public du rapport est laconique. Plusieurs questions restent ouvertes : quels médias exacts ont publié ces contenus, quelle part des textes a été rédigée par un modèle et combien ont déjà été supprimés par les rédactions. On ignore aussi dans quelle mesure OpenAI voit toute la chaîne. L'entreprise n'observe que ce qui se passe sur sa plateforme, alors que les textes ont pu être retravaillés à la main ou dans d'autres services. Il faut donc garder en tête que le blocage des comptes neutralise un des outils, mais pas l'opération elle-même.

Comment les rédactions et les lecteurs peuvent vérifier les auteurs

Le principal risque se situe ici du côté de la réception des contenus. Si l'IA rend un texte plausible bon marché, le filtre doit devenir la vérification de l'identité de l'auteur, et non le style d'écriture. En pratique, cela suppose plusieurs choses :

• Vérifier les nouveaux pigistes auprès de sources indépendantes : publications dans d'autres médias, profils, possibilité d'un contact en direct par vidéo.
• Comparer la photo de l'auteur avec une recherche d'image inversée, car les portraits générés n'ont souvent aucun historique.
• Examiner la cohérence du portfolio : des sujets qui coïncident de façon frappante avec les intérêts d'un seul État doivent éveiller des soupçons.
• Pour les lecteurs : se méfier des auteurs peu connus dont les textes se diffusent soudainement sur de nombreux petits sites à la fois.

Le rapport d'OpenAI confirme que les plateformes qui développent des modèles deviennent peu à peu l'une des sources de données sur ces opérations. Mais la responsabilité de la publication reste du côté de la rédaction, et c'est là que ce filtre doit se déclencher en premier.