Grok cruzou a linha: Comissão Europeia investiga o chatbot de IA de Elon Musk sobre decência

Илон Маск долго продвигал Grok как «анти-повесточного» и максимально свободного ИИ-помощника, который не боится острых углов. Однако именно эта свобода привела компанию X прямиком в зал судебных заседаний Еврокомиссии. Брюссель официально начал расследование, и на этот раз дело не в политических спорах, а в конкретной функции нейросети — способности генерировать изображения и тексты сексуального характера, которые буквально раздевают людей без их ведома. Когда Маск увольнял отделы модерации и безопасности, он, вероятно, рассчитывал на скорость и хаос, но вряд ли учел, что европейские регуляторы умеют читать код и законы не хуже калифорнийских инженеров.

Контекст ситуации прост и одновременно опасен для X. В Европе действует Закон о цифровых услугах (DSA), который обязывает крупные платформы бороться с системными рисками. Распространение дипфейков и неконсенсуального порно — это не просто этическая проблема, а прямое нарушение безопасности пользователей. Долгое время Grok существовал в «серой зоне», позволяя платным подписчикам генерировать контент, который заблокировали бы любые другие нейросети вроде DALL-E или Midjourney. Теперь регуляторы хотят понять, почему системы фильтрации X оказались настолько дырявыми и не было ли это осознанным решением руководства ради привлечения аудитории.

Проблема усугубляется тем, как именно Grok обучается. Он использует данные из постов в X в реальном времени. Если платформа заполнена токсичным или откровенным контентом, ИИ впитывает его как губка, превращая в инструмент для создания новых порций подобного материала. Еврокомиссия уже направила официальный запрос, требуя объяснить, какие меры защиты были внедрены перед запуском генеративных функций. Судя по количеству жалоб от публичных личностей и обычных пользователей, чьи лица оказались на поддельных изображениях, эти меры либо не работают, либо отсутствуют вовсе.

Для Маска это расследование может стать самым дорогим уроком в жизни. Штрафы по DSA могут достигать 6% от мирового годового оборота компании. В условиях, когда рекламодатели и так бегут с платформы, подобные санкции могут стать фатальными. Но дело даже не в деньгах, а в прецеденте. Если Еврокомиссия заставит X изменить алгоритмы Grok, это создаст стандарт для всей индустрии генеративного ИИ. Другим разработчикам придется трижды подумать, прежде чем выпускать «нефильтрованные» модели на рынок, где за приватность граждан стоят чиновники с очень длинными руками.

В ближайшие месяцы мы увидим классическое противостояние техно-оптимизма (или безрассудства) и бюрократической машины. Маск наверняка назовет это цензурой и атакой на свободу слова, но для регуляторов это вопрос защиты человеческого достоинства и борьбы с цифровым насилием. Ирония в том, что Grok, созданный как «самый умный и честный ИИ», в итоге подставил своего создателя под удар, с которым не справятся даже самые остроумные твиты.

Главное: Станет ли этот случай концом «дикого запада» в ИИ-генерации контента или Маск найдет способ обойти европейские законы?