OpenAI забанила российскую и иранскую сети влияния: 7 фейковых журналистов и ~100 статей

OpenAI раскрыла и пресекла две операции влияния, одну российскую и одну иранскую, и заблокировала все связанные с ними аккаунты. Российская кампания «Dark Clark» распространяла дезинформацию по Латинской Америке и дошла до реакции политиков. Из-за этого она получила категорию 5 по шестибалльной шкале OpenAI, самую высокую оценку за всю историю отчётов компании. Иранская «Bogus Bylines» действовала тоньше: семь выдуманных журналистов разместили почти 100 статей в онлайн-изданиях разных стран.

Обе истории показывают, куда сместилась практика информационных операций. Раньше упор делали на боты и массовые посты в соцсетях. Теперь операторы стараются попасть на страницы настоящих медиа, где у текста совсем другой уровень доверия.

Dark Clark: дезинформация, которую заметили политики

По данным OpenAI, российская кампания работала на латиноамериканскую аудиторию. Рекордная оценка выставлена за последствия, а не за объём. Шкала измеряет, насколько далеко операция вышла за пределы собственной bubble-аудитории и вызвала ли отклик в реальном мире. Реакции политиков в этом смысле весомый признак: фейк перестал циркулировать среди ботов и вошёл в публичную повестку.

За несколько лет публикации таких отчётов типичная операция оставалась на низких уровнях: тексты генерировались, публиковались, но почти никто их не читал. «Dark Clark» этот шаблон сломала. Для индустрии это повод пересмотреть допущение, что ИИ-пропаганда в основном остаётся шумом.

Bogus Bylines: семь авторов, которых не существовало

Иранская операция устроена иначе. Вместо громкой кампании в соцсетях её участники создали семь вымышленных журналистов и через них продвигали материалы в онлайн-издания. Почти 100 публикаций по всему миру означают в среднем 14 текстов на одного несуществующего автора. Для редакции такой внештатник выглядит как обычный человек с портфолио, и именно на этом строится схема.

Ключевые цифры из отчёта:

• Dark Clark (Россия): целевой регион — Латинская Америка, категория 5 из 6, первая такая оценка в отчётах OpenAI.
• Bogus Bylines (Иран): 7 фейковых журналистов, почти 100 статей, охват изданий по всему миру.
• Меры: блокировка всех выявленных аккаунтов, связанных с операциями.
• Канал вброса: реальные новостные площадки, а не только соцсети.

Что известно, а что пока нет

Публичная выжимка отчёта лаконична. Остаются открытыми вопросы: какие именно издания опубликовали материалы, какую долю текстов написала модель и сколько из них редакции уже удалили. Пока неясно и то, насколько OpenAI видит всю цепочку. Компания наблюдает только то, что происходит на её платформе, а тексты могли дорабатываться и вручную, и в других сервисах. Поэтому нужно помнить: заблокированные аккаунты закрывают один из инструментов, но не саму операцию.

Как редакциям и читателям проверять авторов

Главный риск здесь лежит на стороне приёма материалов. Если ИИ делает правдоподобный текст дешёвым, фильтром должна становиться проверка личности автора, а не стиль письма. На практике это значит несколько вещей:

• Проверять новых внештатников по независимым источникам: публикации в других изданиях, профили, возможность живого контакта по видео.
• Сверять фото автора с обратным поиском изображений, поскольку сгенерированные портреты часто не имеют истории.
• Смотреть на связность портфолио: темы, которые резко совпадают с интересами одного государства, должны вызывать вопросы.
• Для читателей: относиться с осторожностью к малоизвестным авторам, чьи тексты внезапно расходятся по многим мелким сайтам одновременно.

Отчёт OpenAI подтверждает, что платформы-разработчики моделей постепенно становятся одним из источников данных о таких операциях. Но ответственность за публикацию остаётся у редакции, и именно там этот фильтр сработать должен первым.