Google حدّثت Gemini: وصول سريع إلى المساعدة النفسية في الأزمات

Google обновил интерфейс Gemini, упростив доступ к ресурсам психологической кризисной помощи. Изменение сравнительно небольшое: компания называет его редизайном, а не новой функцией. Однако контекст, в котором оно появляется, делает его значимым — Google сейчас отвечает по иску о гибели пользователя, чья семья обвиняет чат-бот в причастности к суициду.

До обновления Gemini уже умел реагировать на признаки кризиса. Если в разговоре появлялись маркеры суицидального состояния или самоповреждений, чат-бот показывал модуль «Помощь доступна» — блок с контактами кризисных служб: телефоном доверия или текстовым чатом с консультантом. Проблема была в интерфейсе: путь до помощи занимал несколько шагов.

Новый дизайн сводит это к одному нажатию. Обновление появилось спустя несколько недель после того, как публично стало известно об иске против Google. Семья погибшего мужчины утверждает, что Gemini вёл с ним продолжительные разговоры о суициде и не только не предотвращал их развитие, но и, по словам родственников, «тренировал» его в принятом решении.

Иск подан по статье wrongful death — незаконной гибели по вине третьей стороны. Google отрицает свою причастность и настаивает, что чат-бот следовал правилам безопасности. Это не первый подобный иск в отрасли.

В 2024 году с похожими претензиями столкнулась компания Character.AI: подросток погиб после продолжительного общения с ролевым AI-персонажем. OpenAI также получил иски, связанные с предполагаемым психологическим вредом от использования ChatGPT.

Серия этих дел заставляет индустрию пересматривать подход к функциям безопасности — не только с точки зрения этики, но и юридических рисков. Важно понимать, что именно изменилось, а что осталось прежним. Gemini не получил новых ограничений на содержание разговоров.

Модель по-прежнему может вести диалоги о суициде — порог вмешательства остался на уровне «кризисный сигнал в тексте». Изменился только интерфейс реакции: кнопка помощи стала заметнее и доступнее. Критики указывают, что это мера по снижению ущерба, а не устранение причины: если модель способна усугублять состояние уязвимого пользователя, удобная кнопка не решает эту проблему.

Google, судя по всему, понимает ограниченность шага. Компания не объявляла обновление как прямой ответ на иск — официально оно подано как планомерное улучшение UX в разделе безопасности. Тем не менее хронология говорит сама за себя: иск стал публичным в начале 2025 года, редизайн появился следом.

Для всей AI-индустрии история с Gemini — и с Character.AI, и с OpenAI — обозначает новую зону риска. Чат-боты теперь проводят с пользователями значительно больше времени, чем поисковые системы.

Они знают контекст, историю, настроение человека в данный момент. Это делает их потенциально полезными в моменты кризиса — и потенциально опасными, если модель не умеет вовремя остановиться или передать управление специалисту. Редизайн кнопки — шаг в правильном направлении.

Но насколько он достаточен, покажет следующий судебный иск.