OpenAI añade a ChatGPT avisos a contactos de confianza en situaciones de crisis

OpenAI ha lanzado Trusted Contact, una nueva función de seguridad opcional para ChatGPT. Permite a los usuarios adultos designar contactos de confianza —familiares, amigos o tutores— que recibirán un aviso si el sistema detecta señales de una crisis psicológica.

Cómo funciona

La función es sencilla: el usuario indica uno o varios contactos de confianza y sus datos de contacto. Si ChatGPT detecta que una persona habla de autolesiones o suicidio, el sistema envía una notificación a esos contactos.

OpenAI desarrolló la función a partir de un análisis de expertos: las investigaciones indican que, cuando una persona atraviesa una crisis aguda, el apoyo de alguien a quien conoce y en quien confía puede ser decisivo. No sustituye a la ayuda profesional, sino que la complementa. Trusted Contact se suma como una capa de seguridad más a los mecanismos existentes. Cuando un usuario menciona el suicidio o las autolesiones, ChatGPT sugiere líneas telefónicas locales de ayuda (por ejemplo, el 988 en EE. UU.). Ahora se añade la posibilidad de alertar a los allegados.

La opcionalidad como principio

No es una función obligatoria. El usuario decide si la activa, a quién designa como contacto de confianza y cuándo la desactiva. Este enfoque es clave para la confianza: la salud mental es un terreno íntimo y no todo el mundo aceptará una supervisión automática, ni siquiera por su propia seguridad.

• El usuario controla por completo la lista de contactos de confianza
• Las notificaciones se envían solo cuando se detecta una conversación sobre una crisis
• La función puede desactivarse en cualquier momento

Los contactos recibirán no solo un aviso, sino información sobre lo ocurrido y una lista de recursos para ofrecer apoyo. La idea es dar a las personas una herramienta, no pánico.

Contexto: la responsabilidad de las empresas de IA

OpenAI ya había trabajado antes en cómo deben reaccionar los sistemas de IA ante menciones de suicidio y autolesiones. El equilibrio es difícil: por un lado, hay que ayudar a la persona en apuros; por otro, no se debe invadir su privacidad ni crear la falsa impresión de que la IA puede sustituir a la ayuda real.

Muchas empresas del sector experimentan con funciones de seguridad. Algunas usan chatbots para el cribado, otras integran líneas de ayuda. Trusted Contact se sitúa en un punto intermedio: no es control total, sino una red de apoyo ampliada.

«Trusted Contact se basa en una idea sencilla, validada por expertos: cuando alguien puede estar en crisis, conectar con una persona a la que conoce y en la que confía puede marcar una diferencia real», escribe

OpenAI.

Qué significa

Esto refleja la creciente responsabilidad de las empresas de IA por el bienestar de los usuarios. La función no pretende ser una cura milagrosa, pero es una herramienta más en el arsenal: un puente entre la tecnología y el cuidado humano, entre el chatbot y las personas que de verdad están dispuestas a ayudar.