Apple Ameaçou Remover Grok da App Store Após Reclamações sobre Deepfakes Nus

Apple в январе едва не выставила xAI ультиматум: либо Grok перестаёт пропускать сексуализированные дипфейки, либо приложение вылетает из App Store. Публично компания тогда почти не комментировала историю, но теперь из переписки с американскими сенаторами видно, что за кулисами дело дошло до прямой угрозы удаления. Для рынка AI это важный сигнал: проблемы с безопасностью моделей уже бьют не только по репутации, но и по дистрибуции.

Как следует из письма Apple от 30 января 2026 года сенаторам Рону Уайдену, Бену Рэю Лухану и Эду Марки, компания связалась с командами X и Grok после жалоб пользователей и публикаций в прессе. Apple пришла к выводу, что оба приложения нарушают правила App Store, которые запрещают оскорбительный, шокирующий и откровенно сексуализированный контент, а также материалы, способные унижать или причинять вред конкретным людям. После этого Apple потребовала от разработчиков план по усилению модерации и стала проверять, достаточно ли xAI изменила поведение сервиса.

Дальше выяснилось самое неприятное для xAI: первая попытка исправить ситуацию не устроила Apple. Обновление Grok отправили на повторное ревью, но компания сочла, что внесённых изменений недостаточно. В письме прямо сказано, что заявку отклонили и предупредили разработчика: нужны дополнительные правки, иначе приложение могут удалить из магазина.

Только следующая версия, которую Apple описала как существенно улучшенную, получила одобрение. Это значит, что история не ограничилась политическим давлением со стороны сенаторов — внутри App Store Review действительно запустили стандартный механизм принуждения к исправлениям. Сама волна скандала поднялась в первые недели января 2026 года.

Пользователи X массово применяли инструменты Grok для создания сексуализированных изображений реальных женщин без их согласия, а в некоторых случаях речь шла и о несовершеннолетних. Такие картинки потом быстро расходились по самой X. 9 января трое сенаторов потребовали от Apple и Google убрать X и Grok из магазинов приложений до устранения нарушений.

Они отдельно указали, что происходящее противоречит правилам обеих платформ и подрывает их заявления о том, что централизованная модерация магазинов делает мобильную экосистему безопаснее. В ответ X и xAI начали вносить ограничения. На самой X генерацию картинок сначала урезали для обычных пользователей и оставили в основном подписчикам Premium, а затем объявили о блокировке запросов на редактирование фото реальных людей в откровенной одежде и о геоблокировках там, где такой контент незаконен.

Но на этом претензии не закончились. Проверки журналистов показывали, что часть ограничений можно обходить новыми формулировками запросов, а отдельные функции продолжали работать в standalone-версии Grok и на сайте. Иными словами, Apple давила на xAI не из-за единичного сбоя, а из-за системной проблемы, которую быстрым патчем закрыть не удалось.

Для Apple эта история тоже неудобная. Компания много лет защищает закрытую модель App Store тезисом о том, что её ревью и контроль делают iPhone безопаснее по сравнению с установкой приложений в обход магазина. Именно поэтому случай с Grok стал для Apple проверкой на последовательность: если правила запрещают такой контент, их нужно применять и к самым заметным AI-продуктам, а не только к мелким разработчикам.

Для xAI вывод ещё жёстче. Риск для AI-сервиса теперь измеряется не только исками, штрафами или критикой регуляторов, но и угрозой потерять канал установки на миллионах устройств. История с Grok показывает, что для генеративных приложений модерация превращается из второстепенной функции в условие выживания на массовом рынке.