Meta выставила подростков за дверь: ИИ-персонажи уходят на пересдачу

Meta приостановила доступ подростков к своим ИИ-персонажам во всех приложениях компании, включая Instagram и WhatsApp — решение действует по всему миру. В компании подчёркивают, что это не отказ от продукта, а пауза: Meta готовит обновлённую версию ИИ-персонажей для подростков, которая будет учитывать возрастные особенности пользователей. Взрослые пользователи Meta по-прежнему могут переписываться с виртуальными версиями знаменитостей — например, Пэрис Хилтон или Тома Брэди.

Что изменилось для подростков

Meta официально подтвердила временное закрытие доступа несовершеннолетних к своим ИИ-персонажам во всех приложениях — включая Instagram и WhatsApp. Ограничение действует глобально. Для взрослых пользователей сервис продолжает работать в прежнем режиме: можно, например, переписываться с виртуальными версиями Пэрис Хилтон или Тома Брэди. По словам компании, это не конец истории, а пауза для создания более подходящей версии продукта — с учётом возрастных особенностей пользователей.

Как появились ИИ-персонажи Meta и в чём была проблема

С самого начала ИИ-персонажи Meta выглядели как попытка догнать Character.ai. Идея заключалась в том, чтобы дать пользователям возможность пообщаться с кем-то, кто выглядит и говорит как их кумир. Но алгоритмы, лежащие в основе этих ботов, порой выдавали контент, не вписывающийся в рамки семейного приложения: виртуальный собеседник мог обсуждать темы, не предназначенные для школьника, или проявлять излишнюю навязчивость. Причина в том, что большие языковые модели по своей природе склонны к галлюцинациям и не всегда соблюдают установленные фильтры.

Почему Meta приостановила доступ именно сейчас

Регуляторы по всему миру, особенно в Европе и США, пристально следят за тем, как технологические компании защищают детей. Это происходит на фоне многолетних разбирательств вокруг влияния Instagram на самооценку подростков — ещё один громкий скандал, связанный с искусственным интеллектом, компания позволить себе не может. Проще приостановить сервис сейчас и пересобрать модель, чем позже платить миллиардные штрафы и объясняться перед Сенатом.

Какие сложности остаются нерешёнными

Meta пока не уточнила, что именно изменится в обновлённой подростковой версии. Обычные методы обучения с подкреплением на основе отзывов людей не всегда справляются с подростковым сленгом, контекстом и попытками обойти систему через джейлбрейк-запросы. Создать ИИ, который был бы одновременно харизматичным и полностью безвредным, — сложная задача, и компания признала, что её текущие наработки не дотягивают до такого стандарта, решив не рисковать репутацией ради краткосрочного роста метрик. При этом слишком строгая версия рискует получиться пресной: если подросткам станет неинтересно общаться с ботами, они могут уйти на другие, менее контролируемые платформы. Если даже Meta с её ресурсами для модерации признаёт, что не справляется с этой задачей в текущем формате, стартапам в этой сфере будет ещё сложнее.

Что именно приостановила Meta?

Meta приостановила доступ подростков к своим ИИ-персонажам во всех своих приложениях, включая Instagram и WhatsApp. Ограничение действует по всему миру, а для взрослых пользователей сервис продолжает работать в прежнем режиме.

Отказалась ли Meta от идеи ИИ-персонажей для подростков?

Нет. Компания заявила, что это не отказ от продукта, а пауза: Meta разрабатывает обновлённую версию ИИ-персонажей для подростков, которая будет учитывать возрастные особенности пользователей.

Почему Meta пошла на этот шаг?

Алгоритмы, лежащие в основе ИИ-персонажей, порой выдавали контент, не подходящий для семейного приложения, а большие языковые модели по своей природе склонны к галлюцинациям и не всегда соблюдают установленные фильтры. Это происходит на фоне пристального внимания регуляторов в Европе и США к тому, как технологические компании защищают детей, и многолетних разбирательств вокруг влияния Instagram на самооценку подростков.

*Meta признана экстремистской организацией и запрещена в РФ.