OpenAI bloqueó redes de influencia de Rusia e Irán: 7 periodistas falsos y 100 artículos

Dos grandes operaciones de influencia quedan al descubierto

OpenAI reveló y bloqueó dos operaciones de influencia coordinadas: la operación rusa «Dark Clark» y la operación iraní «Bogus Bylines». A diferencia de las campañas clásicas en redes sociales, ambas utilizaron una estrategia de inserción de contenido falso directamente en fuentes mediáticas legítimas, lo que garantizaba máxima credibilidad y alcance. La inteligencia artificial se empleó principalmente para la elaboración de informes internos y la adaptación del contenido propagandístico a distintos idiomas y regiones, lo que permitía localizar rápidamente los materiales para las audiencias objetivo.

La campaña rusa «Dark Clark»: desinformación contra Ucrania

La operación rusa «Dark Clark» desplegó una campaña de influencia dirigida en América Latina con el objetivo de desacreditar a Ucrania y desestabilizar la situación política en la región. La operación se apoyaba en el control de un think tank gestionado a través de una persona ficticia. Según la evaluación de OpenAI, el equipo involucró a empleados locales en el trabajo de la organización sin que estos fueran conscientes de su verdadera afiliación ni de sus objetivos reales.

La operación sintetizó y difundió audios falsos, documentos fabricados y materiales de desinformación. Estas falsificaciones provocaron desmentidos oficiales por parte de los gobiernos y una atención activa de los verificadores de datos en Ecuador y Perú, generando la apariencia de una repercusión social genuina y provocando una respuesta política. El alcance de la campaña fue tan significativo que OpenAI le asignó la categoría 5 de 6 en su propia Breakout Scale, utilizada para evaluar la eficacia de las operaciones de influencia. Se trata del primer caso registrado en alcanzar la quinta categoría en los últimos dos años y medio. Esta calificación solo se otorga cuando los responsables políticos de los países objetivo reaccionan al contenido difundido a nivel estatal.

La campaña iraní «Bogus

Bylines»: una red de siete periodistas falsos

La operación iraní «Bogus Bylines» utilizó una red de siete identidades periodísticas falsas para publicar casi 100 artículos sobre el conflicto entre Estados Unidos e Irán en medios online de todo el mundo. La estrategia estaba diseñada para infiltrarse en publicaciones de noticias legítimas, lo que daba a la desinformación la apariencia de información oficial y aumentaba su credibilidad.

Además de publicar artículos, la operación generaba comentarios y debates adicionales en redes sociales para crear la apariencia de un interés público orgánico. Sin embargo, el componente social de la campaña mostró una eficacia mínima y prácticamente no tuvo difusión, a diferencia de las publicaciones directas en medios.

El papel de la IA y las medidas adoptadas

Ambas campañas utilizaron grandes modelos de lenguaje y herramientas de IA, pero principalmente para fines operativos internos: la elaboración y el análisis de informes sobre los resultados de la campaña, y la adaptación del contenido propagandístico a las particularidades lingüísticas y culturales de las regiones objetivo. El alcance del uso directo de la IA para la generación automatizada de contenido fue limitado.

OpenAI bloqueó todas las cuentas de ChatGPT identificadas vinculadas a ambas operaciones, privando a los responsables del acceso a sus herramientas. La compañía también señala que anteriormente había revelado otra campaña rusa basada en el uso de redes sociales y un think tank ficticio como infraestructura para difundir desinformación.