ChatGPT Health en Australia: los expertos alertan por la falta de regulación

El lanzamiento de la plataforma ChatGPT Health de OpenAI en Australia ha generado una seria preocupación entre los expertos en salud e inteligencia artificial. El motivo principal es la ausencia de un marco normativo claro y el escaso conocimiento de los consumidores sobre los riesgos potenciales de usar IA para obtener consejos médicos. Aunque la tecnología promete facilitar el acceso a la información sobre salud, la expansión sin control de estas plataformas puede tener consecuencias negativas.

El contexto es el siguiente: OpenAI amplía de forma activa los usos de sus modelos de lenguaje, y la sanidad es una de las áreas más prometedoras. Sin embargo, a diferencia de otros sectores, la medicina exige una atención especial a la seguridad, la confidencialidad y la precisión de la información. El caso de un hombre de 60 años que se envenenó con bromuro de sodio subraya la importancia de la atención médica cualificada y del pensamiento crítico al manejar información procedente de fuentes no verificadas.

El problema es que ChatGPT Health, como otras plataformas similares, no sustituye la consulta con un médico. Puede ofrecer información general, pero no es capaz de tener en cuenta las características individuales del paciente, su historial clínico ni los resultados de sus pruebas. Además, los algoritmos de IA son propensos a errores y sesgos, lo que puede conducir a diagnósticos y recomendaciones erróneos. Es importante entender que la responsabilidad de las decisiones sanitarias recae en el paciente y en su médico, no en la inteligencia artificial.

¿Qué consecuencias puede tener el uso sin control de ChatGPT Health? En primer lugar, el riesgo de interpretar mal la información y de automedicarse, lo que puede agravar el estado de salud. En segundo lugar, una amenaza para la privacidad de los datos personales, que OpenAI podría utilizar para sus propios fines. En tercer lugar, la pérdida de confianza en la medicina tradicional y en los médicos, que puede llevar a rechazar tratamientos necesarios.

Para evitar estas consecuencias negativas, hay que elaborar normas y estándares claros para el uso de la IA en la sanidad. Primero, es necesario obligar a OpenAI y a otras empresas que desarrollan plataformas similares a informar a los usuarios de los riesgos y las limitaciones de la IA. Segundo, hay que crear un sistema de certificación y control de calidad de los sistemas de IA médicos. Tercero, deben diseñarse programas educativos para la población que ayuden a evaluar con espíritu crítico la información procedente de fuentes de IA.

En conclusión, el lanzamiento de ChatGPT Health en Australia es una señal importante de que el uso de la IA en la sanidad necesita regulación. Sin normas claras y sin información para los consumidores, esta tecnología puede causar más daño que beneficio. Hay que actuar con rapidez y responsabilidad para garantizar la seguridad y el bienestar de los pacientes.