ChatGPT Health en Australie : les experts s'alarment de l'absence de réglementation

Le lancement de la plateforme ChatGPT Health d'OpenAI en Australie suscite une vive inquiétude chez les experts de la santé et de l'intelligence artificielle. La raison principale : l'absence de cadre réglementaire clair et le manque d'information des consommateurs sur les risques potentiels liés à l'usage de l'IA pour obtenir des conseils médicaux. Si la technologie promet de faciliter l'accès à l'information sur la santé, la diffusion incontrôlée de ces plateformes peut avoir des conséquences négatives.

Voici le contexte : OpenAI élargit activement les usages de ses modèles de langage, et la santé figure parmi les pistes les plus prometteuses. Mais, contrairement à d'autres secteurs, la médecine exige une attention particulière à la sécurité, à la confidentialité et à l'exactitude des informations fournies. Le cas d'un homme de 60 ans intoxiqué au bromure de sodium souligne l'importance d'une prise en charge médicale qualifiée et de l'esprit critique face à des informations issues de sources non vérifiées.

Le problème, c'est que ChatGPT Health, comme les plateformes similaires, ne remplace pas une consultation chez un médecin. Il peut fournir des informations générales, mais il est incapable de tenir compte des particularités du patient, de ses antécédents et des résultats de ses examens. De plus, les algorithmes d'IA sont sujets aux erreurs et aux biais, ce qui peut conduire à des diagnostics et à des recommandations erronés. Il faut comprendre que la responsabilité des décisions de santé incombe au patient et à son médecin traitant, et non à l'intelligence artificielle.

Quelles conséquences un usage non contrôlé de ChatGPT Health peut-il avoir ? Premièrement, le risque de mal interpréter l'information et de s'automédiquer, ce qui peut aggraver l'état de santé. Deuxièmement, une menace pour la confidentialité des données personnelles, qu'OpenAI peut utiliser à ses propres fins. Troisièmement, une baisse de confiance envers la médecine traditionnelle et les médecins, qui peut conduire à refuser des soins nécessaires.

Pour éviter ces effets négatifs, il faut élaborer des règles et des normes claires pour l'usage de l'IA en santé. D'abord, il faut obliger OpenAI et les autres entreprises qui développent des plateformes similaires à informer les utilisateurs des risques et des limites de l'IA. Ensuite, il faut créer un système de certification et de contrôle qualité des systèmes d'IA médicaux. Enfin, il faut mettre en place des programmes éducatifs pour le grand public, afin d'aider chacun à évaluer d'un œil critique les informations issues de sources d'IA.

En conclusion, le lancement de ChatGPT Health en Australie est un signal important : l'usage de l'IA en santé doit être encadré. Sans règles claires ni information des consommateurs, cette technologie peut faire plus de mal que de bien. Il faut agir rapidement et de manière responsable pour garantir la sécurité et le bien-être des patients.