OpenAI забанила сети влияния России и Ирана: 7 фейковых журналистов и 100 статей

Две масштабные операции влияния разоблачены

OpenAI раскрыла и заблокировала две скоординированные операции влияния: российскую операцию «Dark Clark» и иранскую операцию «Bogus Bylines». В отличие от классических кампаний в социальных сетях, обе использовали стратегию внедрения поддельного контента напрямую в легитимные медиа-источники, обеспечивая максимальное правдоподобие и охват. Искусственный интеллект применялся в основном для внутренней отчетности и адаптации пропагандистского контента под разные языки и регионы, позволяя быстро локализовать материалы для целевых аудиторий.

Российская кампания «Dark

Clark»: дезинформация против Украины

Российская операция «Dark Clark» развернула целенаправленную кампанию влияния в Латинской Америке с целью дискредитировать Украину и дестабилизировать политическую ситуацию в регионе. Операция строилась на контроле over think tank, управляемого через фиктивное лицо. По оценке OpenAI, команда вовлекала местных сотрудников в работу организации без их осознания истинной принадлежности и реальных целей.

Операция синтезировала и распространяла поддельные аудиофайлы, сфабрикованные документы и дезинформационные материалы. Эти фальшивки спровоцировали официальные отрицания правительств и активное внимание fact-checkers в Эквадоре и Перу, создав видимость подлинного общественного резонанса и вызвав политический отклик. Масштаб кампании настолько значителен, что OpenAI присвоила ей категорию 5 из 6 по собственной Breakout Scale для оценки эффективности операций влияния. Это первый зафиксированный случай достижения пятой категории за последние два с половиной года. Такая оценка выставляется только когда политики в целевых странах реагируют на распространяемый контент на государственном уровне.

Иранская кампания «Bogus

Bylines»: сеть из семи поддельных журналистов

Иранская операция «Bogus Bylines» использовала сеть из семи поддельных журналистских идентичностей для размещения почти 100 статей на тему американо-иранского конфликта в онлайн-медиа по всему миру. Стратегия была рассчитана на проникновение в легитимные новостные издания, что придавало дезинформации видимость официальной информации и повышало её доверительность.

Помимо публикации статей, операция генерировала дополнительные комментарии и дискуссии в социальных сетях для создания видимости органического общественного интереса. Однако социальная компонента кампании показала минимальную эффективность и практически не получила распространения, в отличие от прямых медиа-публикаций.

Роль ИИ и принятые меры

Обе кампании применяли большие языковые модели и ИИ-инструменты, но преимущественно для внутренних операционных целей: составление и анализ отчетов о результатах кампании, адаптация пропагандистского контента к языковым и культурным особенностям целевых регионов. Масштаб прямого использования ИИ для автоматизированного создания контента был ограничен.

OpenAI заблокировала все выявленные ChatGPT-аккаунты, связанные с обеими операциями, лишив злоумышленников доступа к инструментам. Компания также отмечает, что ранее раскрыла другую российскую кампанию, построенную на использовании социальных медиа и фиктивного think tank в качестве инфраструктуры для распространения дезинформации.