Meta reduce la moderación externa y traslada la revisión de contenido a una AI más avanzada

Meta собирается заметно сократить роль внешних подрядчиков в модерации Facebook и Instagram. Компания хочет передать всё больше проверок контента собственным ИИ-системам, оставив людям самые рискованные и спорные решения.

Как меняется модерация

Meta заявила, что в ближайшие годы будет постепенно разворачивать более продвинутые системы ИИ во всех своих приложениях. Речь не просто о фильтрации спама, а о полноценном применении правил к контенту: компания хочет точнее находить и быстрее удалять тяжёлые нарушения правил — мошенничество, нелегальный контент, контент о продаже наркотиков, а также другие опасные категории. Если новые системы стабильно покажут результат лучше нынешних методов, Meta снизит зависимость от сторонних подрядчиков и усилит собственные внутренние команды и инструменты.

Это заметный разворот для всей операционной модели Meta. Раньше компания годами сочетала автоматическое обнаружение нарушений с работой тысяч внешних модераторов, которые вручную проверяли спорные публикации и жалобы. Теперь ставка делается на то, что современные модели лучше справятся с массовой, повторяющейся и быстро меняющейся работой, где человеку сложно держать темп.

Для Meta это одновременно вопрос скорости, масштаба и стоимости модерации на платформах с миллиардами единиц контента.

Что уже умеет ИИ

Компания утверждает, что ранние тесты новых систем выглядят достаточно сильными, чтобы расширять их роль. В качестве аргумента Meta показывает не общие обещания о повышении эффективности, а конкретные метрики по мошенничеству, фейковым аккаунтам, нарушениям сексуального характера и подозрительным объявлениям. Именно на этих цифрах компания строит кейс в пользу того, что часть работы, которую раньше делали внешние вендоры, теперь может перейти к собственному ИИ.

• Находят и блокируют около 5000 дополнительных мошеннических попыток в день, которые не замечали существующие команды проверки.
• Снизили число жалоб на аккаунты, выдающие себя за самых часто имитируемых знаменитостей, более чем на 80%.
• Выявляют в два раза больше нарушающего правил контента с сексуальными предложениями, адресованными взрослым, и при этом допускают более чем на 60% меньше ошибок.
• Замечают сложные сценарии взлома аккаунтов, когда отдельные сигналы поодиночке выглядят безобидно, но вместе указывают на атаку.
• После более широкого тестирования сократили просмотры объявлений со скамом и другими серьёзными нарушениями на 7%. Отдельно Meta подчёркивает языковой охват. По словам компании, новые системы работают с языками, на которых говорит 98% людей онлайн, а раньше покрытие было примерно на уровне 80 языков. Важнее даже не сама цифра, а то, что модели учатся быстрее подстраиваться под локальный контекст: сленг, эмодзи, кодовые слова и поведение нишевых сообществ. Именно такие детали часто делают автоматическую модерацию слабым местом, особенно когда злоумышленники быстро меняют тактику.

Где останутся люди Полностью убирать людей из цепочки Meta не собирается.

Компания прямо говорит, что ИИ возьмёт на себя задачи, которые лучше подходят технологии: повторяющиеся проверки графического контента, массовый поиск мошеннических схем и категории, где нарушители постоянно адаптируются под правила и обходят фильтры. Но самые чувствительные решения останутся за людьми — например, апелляции после блокировки аккаунта или кейсы, которые могут привести к взаимодействию с правоохранительными органами. Внутри этой схемы роль человека меняется, а не исчезает.

Эксперты будут проектировать, обучать, тестировать и оценивать системы, следить за предвзятостью и качеством решений, а также разбирать сложные случаи, где контекст важнее скорости. Meta также обещает, что сами правила сообщества из-за этого перехода не меняются. Параллельно компания запускает ИИ-помощника поддержки в Facebook и Instagram, чтобы пользователям было проще понять, почему контент удалили, как подать апелляцию и что происходит дальше.

Что это значит Meta переводит ИИ из роли вспомогательного фильтра в ядро платформенного управления.

Если переход сработает, компания сократит зависимость от подрядчиков и ускорит модерацию в глобальном масштабе. Но цена ошибки тоже вырастет: когда спорное решение принимает не человек, а модель, любая системная неточность может мгновенно масштабироваться на миллионы пользователей. Ближайшая проверка для Meta — доказать, что такая схема действительно даёт меньше ошибок, а не просто снижает издержки.