Confissão ao algoritmo: por que ChatGPT é o pior guardião de seus segredos médicos

Mais de 230 milhões de pessoas recorrem ao ChatGPT toda semana em busca de conselhos sobre saúde e bem-estar — o dado é citado pela própria OpenAI. A informação é do site The Verge. A empresa afirma que, para muitos usuários, o chatbot se tornou um "aliado": ajuda a entender os meandros dos planos de saúde, a preencher documentos e a defender com mais confiança os próprios interesses dentro do sistema de saúde. Ao mesmo tempo, as empresas de tecnologia não estão sujeitas às mesmas obrigações que as instituições médicas — e é justamente nessa lacuna que mora o principal risco.

Por que os usuários confiam a saúde a um chatbot

A medicina moderna muitas vezes parece um labirinto burocrático complexo, no qual o paciente se sente apenas mais uma peça na engrenagem. Nesse cenário, um ChatGPT educado, que responde instantaneamente e está sempre disponível, parece uma salvação: ele não apressa ninguém, não reage com irritação a perguntas repetidas e está disposto a discutir sintomas a qualquer hora do dia. A OpenAI descreve esse papel como o de um "aliado" que ajuda a se orientar na correspondência com as seguradoras, no preenchimento de documentos e, de modo geral, a defender com mais segurança os próprios interesses como paciente.

O problema é que essa capacidade de resposta é uma imitação estatística de alta qualidade, não um cuidado consciente: o chatbot nunca fez o juramento de Hipócrates.

Vácuo jurídico: um chatbot não é uma instituição médica

Médicos e clínicas estão sujeitos a protocolos rígidos de confidencialidade — como a HIPAA nos Estados Unidos ou o GDPR na Europa. A OpenAI e outras empresas de tecnologia operam sob termos de uso que a maioria das pessoas folheia em segundos. Quando um usuário envia ao chat uma ressonância magnética ou uma lista de medicamentos em uso, esses dados deixam de ser apenas um segredo pessoal — passam a fazer parte do conjunto de dados usado para treinar futuras versões do modelo.

As empresas prometem anonimização, mas o histórico de vazamentos no setor mostra que o "anonimato" na internet é um conceito frágil e temporário. As empresas de tecnologia não estão sujeitas às mesmas obrigações que as instituições médicas.

O precedente do

Google Nightingale e a natureza probabilística da IA

Cenários semelhantes já aconteceram antes: no caso do projeto Google Nightingale, dados de milhões de pacientes eram repassados a uma empresa de tecnologia sem o conhecimento das próprias pessoas. A diferença agora é que os usuários entregam informações médicas voluntariamente, atraídos pela conveniência da interface do chatbot. Ao mesmo tempo, um modelo de linguagem não é uma base de conhecimento, mas um gerador das sequências de palavras estatisticamente mais prováveis. Em tarefas como escrever código ou um ensaio, uma resposta errada, mas "provável", do modelo pode até parecer engraçada; em um contexto médico, uma alucinação sobre a dosagem de um medicamento ou a interpretação de um ritmo cardíaco é um risco muito mais sério.

Antropomorfismo e ausência de responsabilidade

Uma resposta educada e bem estruturada é percebida inconscientemente como sinal de competência — é o efeito do antropomorfismo: as pessoas tendem a confiar no bot mais do que deveriam. Mas por trás dessa fachada não existe a responsabilidade característica da medicina: se um médico comete um erro, arrisca a licença e um processo judicial. Se um chatbot dá um conselho errado, a empresa pode recorrer a uma cláusula do termo de uso que diz que o serviço se destina "exclusivamente a fins informativos".

O essencial: empresas de tecnologia não são instituições médicas, e a conveniência de conversar com um chatbot não equivale à proteção de dados médicos pessoais. Usar IA para buscar informações gerais ou organizar anotações é uma coisa; transformar um chatbot no guardião do histórico médico e das receitas é algo bem diferente.

Quantas pessoas recorrem ao

ChatGPT toda semana em busca de conselhos sobre saúde?

Mais de 230 milhões de pessoas por semana — o dado é citado pela OpenAI.

Em que o

ChatGPT se diferencia de um médico em termos de obrigações com o usuário?

As empresas de tecnologia não estão sujeitas às mesmas obrigações que as instituições médicas: protocolos de confidencialidade como HIPAA e GDPR não se aplicam a elas da mesma forma que a médicos e clínicas, e os termos de uso indicam que o serviço se destina "exclusivamente a fins informativos".

O que acontece com os dados médicos que o usuário envia para o chat?

Eles deixam de ser um segredo pessoal e passam a fazer parte do conjunto de dados usado para treinar futuras versões do modelo; as empresas prometem anonimização, mas o histórico de vazamentos no setor mostra que se trata de um conceito frágil e temporário.