OpenAI amplia proteção do ChatGPT com função de alerta a contatos

A OpenAI está ampliando seus esforços para proteger usuários do ChatGPT em situações em que as conversas podem envolver risco de automutilação. A empresa apresentou a nova função Trusted Contact, que permite avisar automaticamente uma pessoa de confiança sobre uma possível ameaça.

Como funciona o Trusted Contact

A função permite que o usuário indique antecipadamente um contato: uma pessoa que deve ser notificada se forem detectados sinais de risco de automutilação em uma conversa do ChatGPT. Se o sistema determinar que o usuário está falando sobre possível automutilação ou pensamentos suicidas, enviará ao contato de confiança uma notificação sobre o possível perigo.

O mecanismo usa modelos da OpenAI para analisar o texto em tempo real. A notificação traz informações sobre o risco, mas não o contexto completo da conversa, para preservar a privacidade do usuário. O contato de confiança receberá um alerta direcionado e links para recursos de apoio.

A função é totalmente opcional: o próprio usuário precisa ativá-la e escolher a quem confiar as notificações. Isso significa que o sistema não enviará alertas sem consentimento explícito.

Por que isso importa para as plataformas

A saúde mental dos usuários é uma preocupação crescente para as empresas que criam sistemas de IA. Pesquisas indicam que pessoas em crise muitas vezes recorrem ao ChatGPT com perguntas que não estão prontas para discutir com amigos, pais ou médicos. O anonimato e a ausência de julgamento tornam o assistente de IA atraente para essas conversas. A OpenAI busca equilibrar a acessibilidade do serviço e a responsabilidade com usuários vulneráveis.

O Trusted Contact não é o primeiro mecanismo desse tipo. A empresa já oferece integração com linhas de apoio em saúde mental, mensagens de alerta em situações críticas e informações sobre recursos de apoio.

A abordagem acompanha tendências globais. Outras grandes plataformas (Meta*, TikTok, Discord) também desenvolvem ferramentas para identificar riscos e alertar pessoas próximas. Isso está virando prática padrão no setor.

Onde isso se encaixa na estratégia da OpenAI

A OpenAI investe em várias frentes de proteção ao usuário:

• Detecção automática de situações críticas em diálogos por meio de modelos de ML
• Links integrados para linhas de apoio, conselheiros e comunidades de suporte
• Materiais educativos sobre saúde mental e recursos disponíveis
• Notificações e recomendações para pais de usuários menores de idade
• Parcerias com organizações de ajuda (NAMI, SAMHSA, Crisis Text Line)

O Trusted Contact foi desenvolvido especificamente para usuários que reconhecem o risco e querem uma rede de segurança, para que uma pessoa próxima saiba do problema cedo e possa oferecer apoio.

O que isso significa

O Trusted Contact mostra a crescente responsabilidade das empresas de IA com a segurança dos usuários. O mecanismo não substitui a ajuda profissional, mas pode ganhar tempo num momento crítico, quando uma pessoa de confiança descobre o problema e pode intervir. Para as dezenas de milhões de usuários do ChatGPT, isso adiciona uma camada de proteção ao ecossistema da plataforma.

*A Meta foi classificada como organização extremista e é proibida na Rússia.