Интенсив 21–22.11 · БесплатноБесплатный 2-дневный интенсив по вайбкодингу 21–22 ноября в 16:00 МСК (Сб–Вс) · Живой Поток 3 стартует 23.11Записаться бесплатно →Поток 3 (23.11)
РелизРазбор · На радарThe Verge→ оригинал

Директор по ИИ в Meta выложил дипфейк с Альтманом ради рекламы агента Muse

Директор по ИИ в Meta Александр Ван выложил в Instagram сгенерированный ролик, рекламирующий Muse — ИИ-агента Meta для обычных пользователей. В клипе он, Цукерберг и Сэм Альтман из OpenAI созваниваются по видео, а Альтман одет как пушистый маскот Muse. Пост помечен как ИИ, ведь для видео с людьми метка обязательна, а для картинок нет: фейковое фото Мии Гот разошлось без пометки. Продуктовым командам стоит маркировать все форматы одинаково.

AI-обработка оригинала The Verge; редакция Hamidun News
Директор по ИИ в Meta выложил дипфейк с Альтманом ради рекламы агента Muse
Источник: The Verge. Коллаж: Hamidun News.
Слушать статью
Паспорт материала и цифры
ПараметрДанные
ПервоисточникThe Verge ↗
Главный редактор
Ключевой факт #1Ван назвал традиционных маркетологов «corposlops» и написал сотни твитов
MetaАльтман сам открыл свой образ для ИИ-генерации, как в Sora
Ключевой факт #3Фейк с Мией Гот разошёл фан-аккаунт с синей галочкой Instagram

Представьте: директор по ИИ в одной из крупнейших технологических компаний публикует сгенерированное видео, где его главный конкурент наряжен в костюм мультяшного зверька. Ещё пару лет назад такой дипфейк, то есть поддельное видео с реальным человеком, вызвал бы громкие заявления и угрозы судом. Теперь это рекламный ход. В ноябре именно так поступил Александр Ван, главный по ИИ в Meta, и история хорошо показывает, как быстро сдвинулись границы допустимого и где у соцсетей остаются дыры в правилах.

Что за ролик выложил Александр Ван

Ван опубликовал в Instagram короткий клип, чтобы продвигать Muse. Это потребительский ИИ-агент Meta, то есть помощник для обычных людей, который выполняет задачи за пользователя. В ролике Ван, глава Meta Марк Цукерберг, гендиректор OpenAI Сэм Альтман и Джолли, очеловеченный маскот Muse, общаются по видеосвязи вчетвером. Когда к звонку подключается Альтман, он выглядит как Джолли: пушистый костюм с капюшоном и грим под милого персонажа.

Подпись к ролику: «Когда кореша обсуждают продуктовую стратегию openai». Это шутка про гонку ИИ-агентов и недавний рост популярности Muse. Ван вообще продвигает продукт в стиле, который называют «анти-PR»: он написал сотни твитов и называет традиционных маркетологов «corposlops». Для топ-менеджера такого уровня подход необычный, а сам пост задел конкурента напрямую.

Где проходит граница маркировки

Meta требует помечать как ИИ видео, на которых показаны люди. Пост Вана метку имеет. На это и указал представитель Meta Трейси Клейтон. Он добавил, что Альтман сам открыл доступ к своему образу для генерации контента. Так было, когда OpenAI запустила приложение Sora, и его быстро завалили поддельными видео с Альтманом. OpenAI на запросы о комментарии не ответила.

Для статичных картинок такого требования нет. Это стало заметно в октябре на примере сгенерированного изображения актрисы Мии Гот. Оно набрало популярность без какого-либо раскрытия, что создано нейросетью. Картинку распространял фан-аккаунт с синей галочкой верификации, которую выдаёт сам Instagram. Представитель актрисы сказал The Verge, что для него «непостижимо», как платформа позволила изображению разойтись вместо заботы о «защите и целостности образа публичной персоны».

Скарлетт Йоханссон тоже регулярно становится героиней сексуализированных ИИ-картинок. Meta раньше удаляла некоторые аккаунты, которые выдавали себя за других людей и использовали их внешность. Но это реакция на отдельные случаи, а не общее правило для всех форматов.

Что из этого следует разработчикам и продактам

Первое: ИИ-контент стал частью обычной среды, особенно в соцсетях. Перед промежуточными выборами в США политические группы потратили на сгенерированную рекламу против соперников миллионы долларов. Реакция «это недопустимо» превратилась в «лишь бы была пометка».

Второе: правила маркировки на платформе неровные. Видео с людьми помечается обязательно, картинки нет. Получается, что один и тот же фейк в разных форматах проходит по разным правилам. Если вы делаете продукт с пользовательским контентом или генерацией изображений, заранее решите, будете ли вы маркировать все форматы одинаково. Разное отношение к видео и фото создаёт лазейку, как в случае с Мией Гот.

Третье: согласие человека на использование образа всё чаще звучит как аргумент в споре. Meta ссылается на то, что Альтман разрешил использовать своё лицо в Sora. Но это разрешение относится к конкретному сервису. Покрывает ли оно рекламный ролик конкурента в чужой соцсети, в публикации не сказано, и для продактов это зона юридического риска.

Ограничение у истории одно: речь о нескольких публичных примерах, а не о статистике по платформе. Масштаб проблемы в Instagram здесь не измерен. Но сигнал для индустрии понятен. Когда ИИ-ролики с реальными людьми публикуют сами руководители, давление на платформы и разработчиков генеративных моделей будет расти. Лучше заранее продумать маркировку, верификацию аккаунтов и реакцию на жалобы, чем отвечать на претензии задним числом.

Сюжет

Вопросы и ответы по материалу

Что известно по теме: что за ролик выложил Александр Ван?

Ван опубликовал в Instagram короткий клип, чтобы продвигать Muse. Это потребительский ИИ-агент Meta, то есть помощник для обычных людей, который выполняет задачи за пользователя. В ролике Ван, глава Meta Марк Цукерберг, гендиректор OpenAI Сэм Альтман и Джолли, очеловеченный маскот Muse, общаются по видеосвязи вчетвером. Когда к звонку подключается Альтман, он выглядит как Джолли: пушистый костюм с капюшоном и грим под милого персонажа. Подпись к ролику: «Когда кореша обсуждают продуктовую стратегию openai».

Что известно по теме: где проходит граница маркировки?

Meta требует помечать как ИИ видео, на которых показаны люди. Пост Вана метку имеет. На это и указал представитель Meta Трейси Клейтон. Он добавил, что Альтман сам открыл доступ к своему образу для генерации контента. Так было, когда OpenAI запустила приложение Sora, и его быстро завалили поддельными видео с Альтманом. OpenAI на запросы о комментарии не ответила. Для статичных картинок такого требования нет. Это стало заметно в октябре на примере сгенерированного изображения актрисы Мии Гот.

Что известно по теме: что из этого следует разработчикам и продактам?

Первое: ИИ-контент стал частью обычной среды, особенно в соцсетях. Перед промежуточными выборами в США политические группы потратили на сгенерированную рекламу против соперников миллионы долларов. Реакция «это недопустимо» превратилась в «лишь бы была пометка». Второе: правила маркировки на платформе неровные. Видео с людьми помечается обязательно, картинки нет. Получается, что один и тот же фейк в разных форматах проходит по разным правилам.

ЖХ
Жемал Хамидун — CPO Alpina Digital, продакт-менеджер AlpinaGPT. Делает AI-продукты с 2019 года. Hamidun News — pet project, который вырос в production-агрегатор с 6000+ читателей.
✦ Закрытый клуб практиков · Vibe Club

Внедряйте ИИ быстрее рынка вместе с инженерами и фаундерами

Внутри Vibe Club (hamidun.com/club): еженедельные живые мастермайнды и разборы архитектуры с Жемалом Хамидуном, закрытый Tech Radar, LMS и обновляемая база из 370+ боевых скиллов.

Вступить в Vibe Club →Тест-драйв Академии (72ч)
Что вы думаете?
Загружаем комментарии…