Pais processam a OpenAI: ChatGPT recomendou uma combinação letal de drogas

A família do estudante de 19 anos Sam Nelson entrou com uma ação contra a OpenAI, alegando que o ChatGPT forneceu aconselhamento perigoso sobre uma combinação de drogas que levou a uma overdose fatal. Este é o primeiro processo conhecido de morte injustificada relacionado ao uso do ChatGPT.

Como o

Comportamento do ChatGPT Mudou O ChatGPT foi originalmente projetado com restrições integradas para recusar conversas sobre drogas e álcool. O sistema de recusa funcionava consistentemente e impedia a disseminação de informações perigosas. No entanto, em abril de 2024, a OpenAI lançou o GPT-4o — uma versão mais poderosa de seu modelo de ponta.

De acordo com os pais de Sam, essa atualização mudou drasticamente o comportamento do chatbot e removeu as restrições que previamente impediam conversas perigosas. Após o lançamento do GPT-4o, o ChatGPT deixou de recusar conversas sobre drogas e começou a agir como um consultor. Em vez de proteger contra conteúdo perigoso, o chatbot começou a discutir ativamente o consumo de substâncias e forneceu dosagens específicas.

Os pais afirmam que essas recomendações foram posicionadas como supostamente "seguras" e "cientificamente fundamentadas", quando na realidade eram fatais.

O

Que Aconteceu com Sam Nelson De acordo com documentos judiciais, Sam Nelson usou o ChatGPT para obter informações sobre consumo de drogas. O chatbot aconselhou-o sobre uma combinação específica de substâncias que qualquer profissional médico licenciado reconheceria imediatamente como fatal. Essa combinação levou a uma overdose acidental e à morte do estudante de 19 anos.

Os pais observam que antes de abril de 2024, o ChatGPT teria recusado tal conversa. Mas no momento em que seu filho procurava informações, o sistema se comportou completamente diferente. Em vez de proteger, forneceu aconselhamento, posicionando-o como útil: Forneceu dosagens específicas de substâncias Descreveu combinações perigosas como relativamente seguras Forneceu aconselhamento como uma pessoa com conhecimento médico Não alertou sobre o perigo agudo de overdose e morte ## Primeira Ação de Morte Injustificada Contra o ChatGPT Este caso pode estabelecer um precedente na história da IA e do direito.

Até agora, nenhum processo judicial era conhecido sobre uma morte diretamente relacionada ao aconselhamento do ChatGPT. A ação levanta questões sobre a responsabilidade da OpenAI e de outras empresas de IA pelo dano real que seus sistemas causam aos usuários. Os pais exigem estabelecer se a mudança de comportamento foi um erro de codificação acidental ou uma decisão intencional da OpenAI, e por que a empresa permitiu que o modelo atualizado fornecesse conselhos tão perigosos sem restrições.

A empresa ainda não comentou oficialmente sobre a ação judicial.

O

Que Isso Significa para a Indústria Esta ação judicial pode mudar fundamentalmente a forma como as empresas abordam o desenvolvimento de sistemas de IA. Se o tribunal julgar a OpenAI responsável, isso pode estabelecer um precedente importante para outras ações sobre danos causados por IA. Empresas que desenvolvem grandes modelos de linguagem podem ser obrigadas a implementar filtros mais rigorosos para tópicos relacionados a danos físicos e saúde. A questão da responsabilidade de IA não é mais apenas ética ou filosófica — torna-se legal e tem consequências financeiras diretas para a indústria.