Confesiones a un algoritmo: por qué ChatGPT es el peor guardián de tus secretos médicos

Más de 230 millones de personas recurren cada semana a ChatGPT en busca de consejos sobre salud y bienestar, según datos de OpenAI. Así lo informa The Verge. La compañía afirma que, para muchos usuarios, el chatbot se ha convertido en un «aliado»: les ayuda a orientarse en la maraña de los planes de seguro, a tramitar documentos y a defender con más seguridad sus intereses dentro del sistema sanitario. Sin embargo, las empresas tecnológicas no están sujetas a las mismas obligaciones que las instituciones médicas, y precisamente en esa diferencia reside el principal riesgo.

Por qué los usuarios confían su salud a un chatbot

La medicina actual suele percibirse como un complejo laberinto burocrático en el que el paciente se siente un eslabón sobrante. En ese contexto, un ChatGPT educado, que responde al instante y siempre está disponible, parece una tabla de salvación: no mete prisa, no reacciona con irritación ante preguntas repetidas y está dispuesto a hablar de síntomas a cualquier hora del día. OpenAI describe este papel como el de un «aliado» que ayuda a manejarse en la correspondencia con las aseguradoras, en el papeleo y, en general, a defender con más seguridad sus intereses como paciente. El problema es que esa receptividad es una imitación estadística de calidad, no una preocupación consciente: el chatbot no ha prestado el juramento hipocrático.

Vacío legal: un chatbot no es una institución médica

Médicos y clínicas están sujetos a estrictos protocolos de confidencialidad, como HIPAA en Estados Unidos o el GDPR en Europa. OpenAI y otras empresas tecnológicas se rigen por las condiciones de uso, que la mayoría de la gente pasa por alto en un segundo. Cuando un usuario sube al chat una resonancia magnética o la lista de medicamentos que toma, esos datos dejan de ser un simple secreto personal y pasan a formar parte del conjunto con el que se entrenan las futuras versiones de los modelos.

Las compañías prometen anonimización, pero el historial de filtraciones del sector demuestra que el «anonimato» en internet es un concepto frágil y temporal. Las empresas tecnológicas no están sujetas a las mismas obligaciones que las instituciones médicas.

El precedente de

Google Nightingale y la naturaleza probabilística de la IA

Escenarios así ya se han dado: en el caso del proyecto Google Nightingale, los datos de millones de pacientes se transfirieron a una empresa tecnológica sin que los propios afectados lo supieran. La diferencia es que ahora los usuarios entregan su información médica voluntariamente, atraídos por la comodidad de la interfaz del chatbot. Además, un modelo de lenguaje no es una base de conocimiento, sino un generador de las secuencias de palabras más probables. En tareas como escribir código o un ensayo, una respuesta errónea pero «probable» del modelo puede resultar hasta graciosa; en un contexto médico, una alucinación en la dosis de un fármaco o en la interpretación del ritmo cardíaco supone un riesgo mucho más grave.

Antropomorfismo y ausencia de responsabilidad

Una respuesta educada y bien estructurada se percibe de forma inconsciente como señal de competencia. Es el efecto del antropomorfismo: la gente tiende a confiar en el bot más de lo que debería. Pero tras esa fachada no existe la responsabilidad propia de la medicina: si un médico se equivoca, se arriesga a perder la licencia y a enfrentarse a una demanda. Si un chatbot da un consejo erróneo, la compañía puede ampararse en la cláusula de las condiciones de uso que establece que el servicio tiene fines «exclusivamente informativos».

Lo esencial: las empresas tecnológicas no son instituciones médicas, y la comodidad de hablar con un chatbot no equivale a la protección de los datos médicos personales. Usar la IA para buscar información general o para ordenar notas es una cosa; convertir un chatbot en el custodio de tu historial clínico y tus recetas es otra muy distinta.

¿Cuántas personas consultan cada semana a

ChatGPT sobre salud?

Más de 230 millones de personas a la semana, según datos de OpenAI.

¿En qué se diferencia

ChatGPT de un médico en cuanto a sus obligaciones con el usuario?

Las empresas tecnológicas no están sujetas a las mismas obligaciones que las instituciones médicas: los protocolos de confidencialidad como HIPAA y el GDPR no se les aplican del mismo modo que a médicos y clínicas, y sus condiciones de uso indican que el servicio tiene fines «exclusivamente informativos».

¿Qué ocurre con los datos médicos que el usuario sube al chat?

Dejan de ser un secreto personal y pasan a formar parte del conjunto de datos para entrenar futuras versiones del modelo; las compañías prometen anonimización, pero el historial de filtraciones del sector demuestra que se trata de un concepto frágil y temporal.