OpenAI amplía la protección de ChatGPT con una función de aviso a contactos

OpenAI amplía sus esfuerzos para proteger a los usuarios de ChatGPT en situaciones en las que las conversaciones pueden implicar un riesgo de autolesión. La compañía ha presentado una nueva función, Trusted Contact, que permite avisar automáticamente a una persona de confianza ante una posible amenaza.

Cómo funciona Trusted Contact

La función permite a los usuarios indicar de antemano un contacto: una persona que debe ser notificada si se detectan señales de riesgo de autolesión en una conversación de ChatGPT. Si el sistema determina que el usuario habla de una posible autolesión o de pensamientos suicidas, enviará al contacto de confianza una notificación sobre el posible peligro.

El mecanismo utiliza modelos de OpenAI para analizar el texto en tiempo real. La notificación contiene información sobre el riesgo, pero no el contexto completo de la conversación, para proteger la privacidad del usuario. El contacto de confianza recibirá un aviso dirigido y enlaces a recursos de apoyo.

La función es totalmente opcional: el usuario debe activarla él mismo y elegir a quién confía las notificaciones. Esto significa que el sistema no enviará avisos sin consentimiento explícito.

Por qué importa para las plataformas

La salud mental de los usuarios es una preocupación creciente para las empresas que crean sistemas de IA. Las investigaciones indican que las personas en situación de crisis recurren a menudo a ChatGPT con preguntas que no están preparadas para hablar con amigos, padres o médicos. El anonimato y la ausencia de juicio hacen que un asistente de IA resulte atractivo para estas conversaciones. OpenAI intenta equilibrar la accesibilidad del servicio con su responsabilidad hacia los usuarios vulnerables.

Trusted Contact no es el primer mecanismo de este tipo. La compañía ya ofrece integración con líneas de ayuda en salud mental, mensajes de advertencia en situaciones críticas e información sobre recursos de apoyo.

El enfoque encaja con las tendencias globales. Otras grandes plataformas (Meta*, TikTok, Discord) también desarrollan herramientas para detectar riesgos y avisar a los allegados. Se está convirtiendo en práctica habitual del sector.

Dónde encaja en la estrategia de OpenAI

OpenAI invierte en varias líneas de protección de usuarios:

• Detección automática de situaciones críticas en los diálogos mediante modelos de ML
• Enlaces integrados a líneas de ayuda, asesores y comunidades de apoyo
• Materiales educativos sobre salud mental y recursos disponibles
• Notificaciones y recomendaciones para los padres de usuarios menores de edad
• Alianzas con organizaciones de ayuda (NAMI, SAMHSA, Crisis Text Line)

Trusted Contact está diseñada específicamente para usuarios que son conscientes del riesgo y quieren una red de seguridad, de modo que una persona cercana conozca el problema en una etapa temprana y pueda ofrecer apoyo.

Qué significa

Trusted Contact muestra la creciente responsabilidad de las empresas de IA con la seguridad de los usuarios. El mecanismo no sustituye la ayuda profesional, pero puede ganar tiempo en un momento crítico, cuando una persona de confianza se entera del problema y puede intervenir. Para las decenas de millones de usuarios de ChatGPT, añade una capa de protección al ecosistema de la plataforma.

*Meta ha sido declarada organización extremista y está prohibida en Rusia.