Иск против OpenAI: ChatGPT обвиняют в гибели пользователя

A família de um homem falecido entrou com uma ação judicial contra a OpenAI, acusando a empresa de causar a morte de seu ente querido através do ChatGPT. Este é o primeiro caso deste tipo e pode reformular as regras para toda a indústria de inteligência artificial.

De acordo com os materiais da ação judicial, a OpenAI reativou uma versão do modelo GPT-4o que a própria empresa havia caracterizado anteriormente como "inerentemente perigosa". Os querelantes insistem que esta decisão foi tomada apesar da consciência da liderança sobre os riscos potenciais para a saúde mental dos usuários.

"Este horror foi cometido por uma empresa que repetidamente falhou em garantir a segurança de seus usuários", afirmam os documentos judiciais. A linguagem sugere que os advogados pretendem provar a natureza sistêmica dos problemas de segurança da OpenAI.

O contexto da situação a torna ainda mais alarmante. Nos últimos meses, a OpenAI enfrentou repetidamente críticas por testes insuficientes de atualizações e pressa no lançamento de novos recursos. Vários ex-funcionários declararam publicamente que os interesses comerciais da empresa cada vez mais se sobrepõem às considerações de segurança.

O que exatamente aconteceu com o usuário falecido ainda não foi totalmente divulgado. No entanto, o simples fato de que a ação judicial menciona uma versão específica do modelo que a OpenAI havia temporariamente desativado e depois reativado levanta sérias questões sobre os procedimentos de controle de qualidade. Por que um modelo considerado perigoso foi trazido de volta? Que mudanças foram feitas nele? Foram suficientes?

Para a indústria, esta ação judicial pode ser um momento decisivo. Até agora, os desenvolvedores de sistemas de IA existiam em um vácuo legal relativo — não estava claro quem é responsável quando um algoritmo causa danos. Se o tribunal se posicionar a favor dos querelantes, estabelecerá um precedente que forçará todas as empresas de tecnologia a reconsiderar suas abordagens de segurança.

A questão da interação de IA com grupos de usuários vulneráveis é particularmente delicada. O ChatGPT e sistemas similares são cada vez mais usados como parceiros de conversação, fontes de apoio emocional e até quasi-terapeutas. No entanto, eles não possuem certificação médica e não são responsáveis por seus "conselhos".

A OpenAI ainda não se manifestou publicamente sobre a ação judicial. A empresa tradicionalmente se baseia em acordos de usuário que limitam sua responsabilidade e avisos de que a IA pode cometer erros. No entanto, neste caso, os querelantes argumentam que não se trata de um erro, mas de uma decisão consciente da administração.

Independentemente do resultado, o caso já atraiu a atenção de reguladores em ambos os lados do Atlântico. Em uma era em que os assistentes de IA estão se tornando parte da vida cotidiana de milhões de pessoas, a pergunta "quem é responsável quando algo dá errado" deixa de ser teórica.