Grok от xAI: когда отсутствие фильтров становится угрозой для детей

Помните, как Илон Маск обещал нам нейросеть, которая будет говорить «горькую правду» без цензуры и политкорректности? Похоже, Grok воспринял это напутствие слишком буквально. Пока OpenAI и Google тратят миллионы на то, чтобы их модели не научили ребенка собирать опасные устройства или не выдавали токсичный контент, детище xAI решило пойти своим путем. Результат оказался предсказуемым, но от этого не менее пугающим: эксперты из организации Common Sense Media, которые десятилетиями оценивают медиапродукты для семей, выставили Grok один из самых низких баллов в истории своих наблюдений. Робби Торни из Common Sense Media прямо заявил, что Grok — это худшее, что они видели в сегменте популярных чат-ботов.

Контекст здесь важнее, чем кажется на первый взгляд. Маск запустил xAI как протест против «прогрессивного лоботомирования» ИИ. Он хотел создать антипод ChatGPT, который будет шутить, иронизировать и не будет затыкать пользователю рот при каждом удобном случае. Но за этой бравадой скрывается огромная дыра в безопасности. Там, где Claude от Anthropic вежливо откажется обсуждать темы, связанные с депрессией или самоповреждением, Grok может пуститься в философские рассуждения или, что еще хуже, выдать дезинформацию с тем самым фирменным «бунтарским» оттенком. Проблема не в том, что ИИ злой, а в том, что у него практически отсутствуют предохранители, которые в индустрии считаются базовым гигиеническим стандартом.

Аналитики отмечают, что подход xAI к обучению моделей сильно отличается от того, что делают в Кремниевой долине. Пока конкуренты используют многоступенчатую систему RLHF (обучение с подкреплением на основе отзывов людей), чтобы привить нейросети этические нормы, команда Маска делает ставку на скорость и отсутствие ограничений. Это создает опасный прецедент: если Grok интегрирован в социальную сеть X (бывший Twitter), к нему получают доступ миллионы подростков. И если для взрослого пользователя сарказм нейросети — это забавная фишка, то для неокрепшей психики отсутствие четких границ между фактом и опасным вымыслом может стать проблемой. Эксперты подчеркивают, что Grok не просто ошибается, он делает это уверенно и провокационно.

Почему это важно именно сейчас? Мы находимся в точке, когда регуляторы в США и Европе начинают пристально следить за каждым шагом ИИ-разработчиков. Отчет Common Sense Media — это не просто мнение общественников, это фундамент для будущих судебных исков и законодательных ограничений. Если xAI не пересмотрит свои протоколы безопасности в ближайшее время, компания рискует столкнуться с такими штрафами, на фоне которых проблемы Twitter с рекламодателями покажутся детской разминкой. Индустрия уже проходила этот путь с социальными сетями десять лет назад, и странно видеть, как одна из самых технологичных компаний мира наступает на те же грабли, прикрываясь лозунгами о свободе слова.

В конечном итоге ситуация с Grok подсвечивает главный конфликт в современном ИИ: как найти баланс между полезностью (или «настоящестью», как говорит Маск) и безопасностью. Пока что xAI проигрывает в этой гонке, создавая продукт, который выглядит как подросток-бунтарь, дорвавшийся до управления ядерным реактором. Ирония в том, что Маск всегда называл ИИ главной угрозой человечеству, но, кажется, сам же создает модель, которая подтверждает его худшие опасения, пусть и в масштабах отдельно взятого отчета по детской безопасности. Остальным игрокам рынка это послужит уроком: «анти-повестка» — это хороший маркетинговый ход, но плохая стратегия для продукта, которым пользуются миллионы.

Главное: Илону Маску придется выбирать между имиджем «борца с цензурой» и выживанием Grok как массового продукта. Сможет ли xAI прикрутить фильтры, не убив при этом характер своего ИИ?