Des sous-traitants de Meta se sont fait passer pour des enfants et ont testé ChatGPT et Gemini sur des sujets dangereux

Сотни подрядчиков Meta притворялись подростками, чтобы спровоцировать Gemini, ChatGPT и другие чат-боты конкурентов на обсуждение суицида, секса и наркотиков. Расследование Wired раскрывает детали закрытого проекта, поднимающего острые вопросы об этике конкурентной разведки в эпоху AI.

Схема и масштаб В рамках внутреннего проекта

Meta сотни подрядчиков получали инструкции: изображать несовершеннолетних пользователей и вести диалоги с конкурирующими системами — Google Gemini, ChatGPT и рядом других чат-ботов. Задача — зафиксировать, насколько легко вывести эти системы на обсуждение опасных тем: суицида, сексуального насилия, наркотиков. Работа велась через специализированные инструменты на протяжении нескольких месяцев. Подрядчики не раскрывали принадлежность ни системе, ни её разработчикам — они выглядели как обычные пользователи, интересующиеся чувствительными темами. По данным Wired, схема охватывала сотни людей, генерировавших тысячи тестовых сессий ежедневно. Примечательно, что под прицел попадали исключительно конкуренты — собственные модели Meta (Llama, Meta AI) в тесты не входили.

В чём проблема

Компании регулярно практикуют red-teaming — метод, при котором специально обученные команды пытаются взломать или обмануть систему, чтобы найти уязвимости до того, как их найдут злоумышленники. Это признанный и одобренный регуляторами подход к повышению безопасности AI-продуктов. Но проект Meta принципиально отличается от стандартного red-teaming: *Объект — конкуренты, а не собственный продукт.

Meta не улучшала свою безопасность — она документировала чужие слабости. Метод — систематическая имитация детей.* Создание фиктивных профилей несовершеннолетних для манипуляции AI-системами выходит за рамки признанных этических стандартов.

* Непрозрачность. Ответственное тестирование предполагает хотя бы минимальные этические протоколы. Здесь ничего этого не было.

* Потенциальное двойное использование. Meta неоднократно публично критиковала конкурентов за недостаточную защиту детей. Если эта критика подкреплена данными, полученными скрытыми провокациями, — это манипуляция, а не реальная забота о безопасности.

Реакция рынка и регуляторов

Ни Google, ни OpenAI публично не прокомментировали конкретные инциденты из расследования Wired. Представители Meta на момент публикации также не подтвердили и не опровергли детали. Источники издания — нынешние и бывшие подрядчики, непосредственно работавшие над проектом.

«Тестировать безопасность — нормально и необходимо.

Систематически притворяться ребёнком, чтобы дискредитировать чужой продукт, — это совсем другое», — считают эксперты по AI-этике, опрошенные Wired. В Европе подобная деятельность потенциально подпадает под DSA (Digital Services Act), регулирующий работу платформ с несовершеннолетними и устанавливающий требования к прозрачности. Американские законодатели пока не имеют сопоставимых инструментов, хотя детская онлайн-безопасность не первый год обсуждается в Конгрессе — в частности, в рамках KOSA (Kids Online Safety Act). Существенный момент: сами чат-боты — Gemini и ChatGPT — действительно продемонстрировали уязвимости, реагируя на запросы «подростков» контентом о суициде и наркотиках. Проблема реальная, независимо от методов её выявления.

Что это значит

История с подрядчиками Meta — симптом системной проблемы: у индустрии нет общепринятых стандартов adversarial testing для AI-систем. Пока правила не зафиксированы законодательно, крупные игроки будут трактовать «безопасностное тестирование» каждый по-своему — включая методы, которые больше напоминают конкурентную разведку под прикрытием. Регуляторам это должно стать недвусмысленным сигналом к действию. *Meta признана экстремистской организацией и запрещена в РФ.