OpenAI met en place un système de détection d'âge pour protéger les enfants

OpenAI предпринимает новые шаги для защиты несовершеннолетних пользователей своей платформы ChatGPT, объявив о внедрении модели прогнозирования возраста. Эта система, запущенная во вторник, призвана автоматически выявлять аккаунты, принадлежащие лицам младше 18 лет, и активировать дополнительные меры безопасности. В последние месяцы OpenAI столкнулась с растущим давлением в отношении своей политики защиты пользователей, особенно детей.

Критики выражали обеспокоенность по поводу потенциального воздействия генеративного искусственного интеллекта на несовершеннолетних, включая доступ к нежелательному контенту и риски, связанные с взаимодействием с ИИ. В ответ на это OpenAI предприняла ряд шагов по усилению безопасности своей платформы. Новая модель прогнозирования возраста анализирует различные факторы, связанные с использованием аккаунта ChatGPT, чтобы оценить возраст пользователя.

Если система определяет, что пользователь, вероятно, не достиг 18 лет, для этого аккаунта автоматически включаются защитные меры. Эти меры включают в себя ограничение доступа к контенту, который считается «чувствительным» или потенциально вредным для несовершеннолетних. Важно отметить, что система не является безошибочной.

OpenAI признает, что могут быть случаи, когда возраст взрослого пользователя ошибочно определяется как несовершеннолетний. В таких ситуациях пользователям предоставляется возможность подтвердить свой возраст с помощью сервиса верификации личности Persona. После успешного подтверждения возраста полный доступ к функциям ChatGPT восстанавливается.

Внедрение модели прогнозирования возраста является важным шагом на пути к созданию более безопасной онлайн-среды для детей. Однако это лишь один элемент комплексной стратегии, и OpenAI необходимо продолжать совершенствовать свои системы безопасности и взаимодействовать с экспертами и заинтересованными сторонами, чтобы обеспечить эффективную защиту несовершеннолетних пользователей. Этот шаг может стать отраслевым стандартом, вынуждая другие компании, работающие в сфере генеративного ИИ, предпринимать аналогичные меры.

В заключение, OpenAI демонстрирует готовность реагировать на опасения, связанные с безопасностью детей в цифровой среде. Внедрение системы определения возраста – это важный шаг, но для обеспечения надежной защиты несовершеннолетних необходимы дальнейшие усилия и постоянное совершенствование.