Почему ИИ-модерация Meta не защищает пользователей: скандал с Muse Image

Издание Rest of World в июле 2026 года выпустило разбор: Meta и другие крупные техкомпании всё активнее передают модерацию контента нейросетям, но реакция пользователей на сервис Muse Image показала ключевой изъян — ИИ не учитывает согласие человека и потому не защищает пользователей.

Что показал скандал с Muse Image

Скандал вокруг Muse Image обнажил слепую зону автоматической модерации: алгоритм проверяет контент на соответствие формальным правилам, но не спрашивает, согласился ли человек на использование своего образа. По версии Rest of World из материала 2026 года, именно согласие — то, что ИИ-фильтры структурно не умеют оценивать.

Модель видит пиксели и категории — «обнажёнка», «насилие», «спам», — но не видит отношений между людьми и контекста, в котором изображение появилось. Одна и та же картинка может быть безобидной или разрушительной в зависимости от того, разрешил ли изображённый её создание и публикацию. Классификатор эту разницу не считывает.

Почему ИИ не понимает согласие

ИИ-модерация не распознаёт согласие, потому что обучена на признаках контента, а не на воле людей за кадром. Система с высокой точностью отличит одетое тело от обнажённого, но вопрос «дал ли изображённый человек разрешение» лежит вне данных, на которых её тренировали. Согласие — это факт из реального мира, а не свойство самого файла: его нельзя вычислить, просто разглядывая картинку внимательнее.

Отсюда типичная развилка: контент формально не нарушает ни одного правила платформы, но всё равно причиняет вред. Самый очевидный класс — сгенерированные и подменённые изображения реальных людей: технически это «просто картинка», а по сути — использование чужого лица и тела без разрешения. Фильтр пропускает такой материал, а пострадавший остаётся без защиты.

• Meta в январе 2025 года заменила сторонних фактчекеров в США на пользовательские заметки Community Notes и усилила автоматику
• Muse Image — AI-сервис, ставший поводом для разбора Rest of World в 2026 году
• Согласие пользователя — измерение, которое, по данным Rest of World, ИИ-фильтры структурно не оценивают

Куда идёт автомодерация big tech

Крупные платформы делают ставку на ИИ-модерацию ради масштаба и скорости: людей-модераторов не хватает на миллиарды загрузок. Meta ещё в январе 2025 года объявила, что заменяет программу сторонних фактчекеров в США на Community Notes и активнее полагается на автоматические системы — человека в петле становится меньше, а алгоритма больше.

Проблема в том, что рост автоматизации не закрывает пробел с согласием, а делает его заметнее. Чем меньше живых модераторов, тем реже кто-то замечает вред, который не описан в правилах, — а именно туда попадают истории вроде Muse Image.

Реакция платформ обычно запаздывает: правило против конкретного вреда появляется уже после публичного скандала, когда пострадавшие сами заявили о себе. Muse Image — очередной случай этой схемы: сначала волна возмущения, потом обещания «донастроить» фильтры. Но донастройка классификатора не добавляет ему понимания согласия — она лишь расширяет список запрещённых паттернов.

ИИ-модерация не способна защитить пользователей, потому что не учитывает согласие. — тезис материала издания

Rest of World

Что это значит

Это технологический предел, а не ошибка настроек. Пока модерация опирается на классификацию контента, она будет пропускать вред, завязанный на согласие и контекст. Rest of World ставит вопрос, который big tech предпочитает обходить: часть проблем модерации нельзя решить более умной моделью — только другим устройством правил и участием людей. Для пользователей это означает простое правило: автоматический фильтр не равен защите, и там, где речь о собственном образе, полагаться придётся на жалобы, юристов и публичное давление, а не на алгоритм.

*Meta признана экстремистской организацией и запрещена в РФ.