OpenAI ajoute à ChatGPT des alertes aux contacts de confiance en cas de crise

OpenAI a lancé Trusted Contact, une nouvelle fonction de sécurité optionnelle pour ChatGPT. Elle permet aux utilisateurs adultes de désigner des contacts de confiance — proches, amis ou tuteurs — qui seront prévenus si le système détecte des signes de crise psychologique.

Comment ça marche

Le fonctionnement est simple : l'utilisateur indique un ou plusieurs contacts de confiance et leurs coordonnées. Si ChatGPT détecte qu'une personne parle d'automutilation ou de suicide, le système envoie une notification à ces contacts.

OpenAI a conçu la fonction à partir d'une analyse d'experts : selon les recherches, lorsqu'une personne traverse une crise aiguë, le soutien de quelqu'un qu'elle connaît et en qui elle a confiance peut être déterminant. Ce n'est pas un substitut à l'aide professionnelle, mais un complément. Trusted Contact s'ajoute comme une couche de sécurité supplémentaire aux mécanismes existants. Lorsqu'un utilisateur évoque le suicide ou l'automutilation, ChatGPT propose des lignes téléphoniques locales (par exemple, le 988 aux États-Unis). S'y ajoute désormais la possibilité d'alerter les proches.

L'option comme principe

La fonction n'est pas obligatoire. L'utilisateur décide lui-même de l'activer ou non, de désigner ses contacts de confiance et de la désactiver quand il le souhaite. Cette approche est essentielle pour la confiance : la santé mentale relève de l'intime, et tout le monde n'acceptera pas une surveillance automatique, même pour sa propre sécurité.

• L'utilisateur contrôle entièrement la liste des contacts de confiance
• Les notifications ne sont envoyées que lorsqu'une discussion de crise est détectée
• La fonction peut être désactivée à tout moment

Les contacts recevront non pas une simple alerte, mais des informations sur ce qui s'est passé et une liste de ressources pour apporter du soutien. L'idée : donner aux gens un outil, pas de la panique.

Contexte : la responsabilité des entreprises d'IA

OpenAI avait déjà travaillé sur la manière dont les systèmes d'IA doivent réagir aux mentions de suicide et d'automutilation. L'équilibre est délicat : d'un côté, il faut aider la personne en détresse ; de l'autre, il ne faut ni empiéter sur sa vie privée ni donner la fausse impression que l'IA peut remplacer une aide réelle.

De nombreuses entreprises du secteur expérimentent des fonctions de sécurité. Certaines utilisent des chatbots pour le dépistage, d'autres intègrent des lignes d'écoute. Trusted Contact se place quelque part au milieu : pas un contrôle total, mais un réseau de soutien élargi.

« Trusted Contact repose sur une idée simple, validée par des experts : lorsqu'une personne

peut être en crise, se tourner vers quelqu'un qu'elle connaît et en qui elle a confiance peut faire une vraie différence », écrit OpenAI.

Ce que cela signifie

Cela reflète la responsabilité croissante des entreprises d'IA envers le bien-être des utilisateurs. La fonction ne prétend pas être un remède miracle, mais c'est un outil de plus dans l'arsenal — un pont entre la technologie et l'attention humaine, entre le chatbot et les personnes réellement prêtes à aider.