Почему Big Tech тонет в AI-слопе, который сам же и создаёт

В последние дни 2025 года глава Instagram Адам Моссери опубликовал пост, который трудно назвать иначе как манифестом цифровой тревоги. «Подлинность стала бесконечно воспроизводимой», — написал он. Всё, что делало авторов контента значимыми — способность быть настоящими, устанавливать связь с аудиторией, иметь голос, который невозможно подделать, — теперь доступно любому, у кого есть нужные инструменты. Моссери предложил элегантное решение: производители камер будут криптографически подписывать снимки в момент съёмки, создавая цепочку доверия. Результатом станет надёжная система определения того, что не является продуктом искусственного интеллекта. Звучит как план. Проблема в том, что это звучит как план уже несколько лет подряд.

The Verge обратил внимание на фундаментальное противоречие, которое пронизывает всю индустрию. Компании, которые создали и продолжают масштабировать инструменты генеративного AI, одновременно выступают в роли борцов с последствиями их же технологий. Meta, владеющая Instagram и Facebook, активно развивает собственные генеративные модели, встраивает AI-функции в каждый продукт и поощряет создание синтетического контента. И тот же самый руководитель той же самой компании публично сокрушается о том, что подлинность умирает. Это не лицемерие в классическом смысле — это структурный конфликт интересов, встроенный в бизнес-модель.

Прогресс в области маркировки дипфейков и AI-сгенерированного контента действительно идёт удручающе медленно. Стандарт C2PA, на который ссылается Моссери, предполагает встраивание метаданных о происхождении изображения прямо в файл. Несколько производителей камер — Sony, Leica, Nikon — уже экспериментируют с этой технологией. Но между лабораторным прототипом и массовым внедрением лежит пропасть. Подавляющее большинство фотографий в мире делается на смартфоны, и ни Apple, ни Samsung пока не интегрировали C2PA в свои устройства на уровне, который можно было бы назвать стандартом индустрии. Более того, метаданные легко удаляются при загрузке на большинство платформ — включая, иронично, сам Instagram.

Есть и более глубокая проблема. Даже если маркировка «настоящих» фотографий заработает идеально, это не решает вопрос с контентом, который уже существует. Миллиарды изображений, загруженных до внедрения стандарта, останутся без подписи. Отсутствие криптографической метки не будет означать, что фотография поддельная — оно будет означать лишь то, что она была сделана до эпохи маркировки или на устройство без поддержки стандарта. Система, которая не может отличить старое настоящее фото от нового фейка, имеет ограниченную ценность.

Между тем масштаб проблемы AI-слопа — низкокачественного синтетического контента, заполняющего ленты и поисковую выдачу — продолжает расти экспоненциально. Facebook уже стал площадкой, где AI-сгенерированные изображения набирают миллионы лайков и репостов. Поисковая выдача Google засоряется сайтами с AI-текстами. Amazon борется с потоком книг, написанных языковыми моделями. Каждая из этих компаний одновременно является и жертвой, и источником проблемы — они предоставляют инструменты для генерации контента, платформы для его распространения и алгоритмы, которые вознаграждают его вовлекающие свойства.

Критики справедливо указывают на то, что у технологических гигантов нет экономического стимула по-настоящему решать эту проблему. Синтетический контент генерирует вовлечённость, вовлечённость генерирует рекламные доходы, а рекламные доходы — это то, ради чего существуют эти платформы. Маркировка AI-контента, если она будет реализована честно и повсеместно, может снизить взаимодействие с таким контентом, а значит — ударить по метрикам, которые показываются инвесторам на квартальных отчётах. В этом свете заявления Моссери выглядят не как план действий, а как PR-упражнение: обозначить проблему, предложить далёкое технологическое решение и продолжить зарабатывать на статус-кво.

Ситуация напоминает то, как табачные компании десятилетиями финансировали исследования о вреде курения, одновременно продолжая продавать сигареты. Разница в том, что AI-слоп не убивает буквально — он разрушает информационную среду, подрывает доверие к визуальным свидетельствам и создаёт мир, в котором отличить правду от вымысла становится задачей, требующей технической экспертизы. Если крупнейшие технологические компании действительно хотят бороться с этим явлением, начать стоит не с криптографических подписей на камерах, а с собственных продуктов — с ограничения генеративных инструментов, с прозрачной маркировки на своих платформах, с алгоритмов, которые не будут продвигать синтетику в ленты миллиардов пользователей. Пока этого не произойдёт, все разговоры о борьбе с AI-слопом останутся именно тем, чем они являются — слопом другого рода.