OpenAI baniu redes de influência da Rússia e do Irã: 7 jornalistas falsos e 100 artigos

Duas operações de influência de grande escala são desmascaradas

A OpenAI revelou e bloqueou duas operações de influência coordenadas: a operação russa "Dark Clark" e a operação iraniana "Bogus Bylines". Diferentemente das campanhas clássicas em redes sociais, ambas usaram a estratégia de inserir conteúdo falso diretamente em fontes de mídia legítimas, garantindo máxima credibilidade e alcance. A inteligência artificial foi usada principalmente para relatórios internos e para adaptar o conteúdo propagandístico a diferentes idiomas e regiões, permitindo localizar rapidamente os materiais para os públicos-alvo.

Campanha russa "Dark Clark": desinformação contra a Ucrânia

A operação russa "Dark Clark" lançou uma campanha de influência direcionada na América Latina com o objetivo de desacreditar a Ucrânia e desestabilizar a situação política na região. A operação se baseava no controle de um think tank administrado por meio de uma pessoa fictícia. Segundo a avaliação da OpenAI, a equipe envolveu funcionários locais no trabalho da organização sem que eles soubessem a verdadeira filiação e os objetivos reais.

A operação sintetizou e disseminou arquivos de áudio falsos, documentos fabricados e materiais de desinformação. Essas falsificações provocaram negações oficiais de governos e atenção ativa de verificadores de fatos no Equador e no Peru, criando a aparência de uma repercussão pública genuína e gerando reação política. A escala da campanha é tão significativa que a OpenAI atribuiu a ela a categoria 5 de 6 em sua própria Breakout Scale, usada para avaliar a eficácia de operações de influência. Esse é o primeiro caso registrado de alcançar a quinta categoria nos últimos dois anos e meio. Essa classificação só é atribuída quando políticos nos países-alvo reagem ao conteúdo disseminado em nível estatal.

Campanha iraniana "Bogus

Bylines": uma rede de sete jornalistas falsos

A operação iraniana "Bogus Bylines" usou uma rede de sete identidades jornalísticas falsas para publicar quase 100 artigos sobre o tema do conflito entre EUA e Irã em veículos de mídia online no mundo todo. A estratégia foi planejada para penetrar em publicações jornalísticas legítimas, o que dava à desinformação a aparência de informação oficial e aumentava sua credibilidade.

Além de publicar artigos, a operação gerou comentários e discussões adicionais em redes sociais para criar a aparência de interesse público orgânico. No entanto, o componente social da campanha mostrou eficácia mínima e praticamente não teve repercussão, em contraste com as publicações diretas em mídia.

O papel da IA e as medidas adotadas

Ambas as campanhas utilizaram grandes modelos de linguagem e ferramentas de IA, mas principalmente para fins operacionais internos: elaboração e análise de relatórios sobre os resultados da campanha, e adaptação do conteúdo propagandístico às características linguísticas e culturais das regiões-alvo. A escala do uso direto de IA para criação automatizada de conteúdo foi limitada.

A OpenAI bloqueou todas as contas do ChatGPT identificadas como vinculadas a ambas as operações, privando os responsáveis do acesso às ferramentas. A empresa também observa que já havia revelado anteriormente outra campanha russa, construída com base no uso de redes sociais e de um think tank fictício como infraestrutura para disseminar desinformação.