OpenAI расширила защиту ChatGPT функцией оповещения контактов

OpenAI расширяет усилия по защите пользователей ChatGPT в ситуациях, когда разговоры могут затронуть риск самовреда. Компания представила новую функцию Trusted Contact, которая позволяет автоматически оповещать доверенного человека о потенциальной угрозе.

Как работает

Trusted Contact Функция позволяет пользователям заранее указать контакт — человека, который должен быть уведомлён, если в беседе ChatGPT обнаружены признаки риска самовреда. Если система определит, что пользователь обсуждает возможное членовредительство или суицидальные мысли, она отправит доверенному контакту уведомление с информацией о потенциальной опасности. Механизм использует модели OpenAI для анализа текста в реальном времени. Уведомление содержит информацию о риске, но без полного контекста беседы — в целях приватности пользователя. Доверенный контакт получит направленное оповещение и ссылки на ресурсы поддержки. Функция полностью опциональна: пользователь должен сам активировать её и выбрать, кому доверить уведомления. Это означает, что система не будет отправлять оповещения без явного согласия.

Почему это важно для платформ

Психическое здоровье пользователей — растущая забота для компаний, которые создают AI-системы. Исследования показывают, что люди в кризисных ситуациях часто обращаются к ChatGPT с вопросами, которые не готовы обсуждать с друзьями, родителями или врачами. Анонимность и отсутствие осуждения делают AI-ассистента привлекательным для таких разговоров. OpenAI стремится балансировать между доступностью сервиса и ответственностью перед уязвимыми пользователями. Trusted Contact — не первый такой механизм. Компания уже предлагает интеграцию со справочными линиями психической помощи, предупреждающие сообщения в критических ситуациях и информацию о ресурсах поддержки. Подход соответствует глобальным тенденциям. Другие крупные платформы (Meta, TikTok, Discord) также развивают инструменты для выявления риска и оповещения близких людей. Это становится стандартной практикой в индустрии.

Где это вписывается в стратегию

OpenAI OpenAI инвестирует в несколько направлений защиты пользователей: Автоматическое выявление критических ситуаций в диалогах через ML-модели Встроенные ссылки на горячие линии, консультантов и сообщества поддержки Образовательные материалы о психическом здоровье и доступных ресурсах Уведомления и рекомендации для родителей несовершеннолетних пользователей * Партнёрства с организациями помощи (NAMI, SAMHSA, Crisis Text Line) Trusted Contact специально разработана для пользователей, которые осознают риск и хотят иметь подстраховку — чтобы близкий человек узнал о проблеме на ранней стадии и смог предложить поддержку.

Что это значит

Trusted Contact показывает растущую ответственность AI-компаний перед безопасностью пользователей. Механизм не заменяет профессиональную помощь, но может спасти время в критический момент — когда доверенный человек узнает о проблеме и сможет вмешаться. Для десятков миллионов пользователей ChatGPT это добавляет один слой защиты в экосистему платформы.