اعتراف أمام الخوارزمية: لماذا يُعدّ ChatGPT أسوأ حارس لأسرارك الطبية

يلجأ أكثر من 230 مليون شخص أسبوعيًا إلى ChatGPT لطلب نصائح عن الصحة والعافية، بحسب بيانات تنشرها OpenAI. ونقل ذلك موقع The Verge. وتقول الشركة إن روبوت الدردشة صار «حليفًا» لكثير من المستخدمين: فهو يساعدهم على فهم تعقيدات خطط التأمين، وإعداد المستندات، والدفاع عن مصالحهم بثقة أكبر داخل منظومة الرعاية الصحية. لكن شركات التكنولوجيا لا تلتزم بالواجبات نفسها التي تلتزم بها المؤسسات الطبية، وفي هذا التباين تحديدًا يكمن الخطر الرئيسي.

لماذا يأتمن المستخدمون روبوت الدردشة على صحتهم

كثيرًا ما يبدو الطب الحديث متاهة بيروقراطية معقّدة، يشعر المريض داخلها بأنه حلقة زائدة. وفي هذا السياق يبدو ChatGPT، المهذّب والسريع في الرد والمتاح دائمًا، طوق نجاة: فهو لا يستعجلك، ولا ينزعج من تكرار الأسئلة، وجاهز لمناقشة الأعراض في أي ساعة من اليوم. وتصف OpenAI هذا الدور بأنه دور «الحليف» الذي يساعد في التعامل مع مراسلات شركات التأمين وإعداد المستندات، وعمومًا في الدفاع عن مصالح المريض بثقة أكبر. غير أن المشكلة تكمن في أن هذه الاستجابة محاكاة إحصائية عالية الجودة، لا اهتمام واعٍ؛ فروبوت الدردشة لم يؤدِّ قسم أبقراط.

فراغ قانوني: روبوت الدردشة ليس مؤسسة طبية

يلتزم الأطباء والعيادات ببروتوكولات صارمة للسرية، مثل HIPAA في الولايات المتحدة أو GDPR في أوروبا. أما OpenAI وغيرها من شركات التكنولوجيا فتعمل وفق شروط اتفاقيات المستخدم، التي يتجاوزها معظم الناس بنظرة سريعة. وعندما يرفع المستخدم إلى الدردشة صورة رنين مغناطيسي (MRI) أو قائمة بالأدوية التي يتناولها، تتوقف هذه البيانات عن كونها سرًّا شخصيًا فحسب، وتصبح جزءًا من المجموعة التي تُدرَّب عليها الإصدارات المقبلة من النماذج. وتَعِد الشركات بإخفاء الهوية، لكن تاريخ التسريبات في هذه الصناعة يُظهر أن «إخفاء الهوية» على الإنترنت مفهوم هشّ ومؤقت. فشركات التكنولوجيا لا تلتزم بالواجبات نفسها التي تلتزم بها المؤسسات الطبية.

سابقة

Google Nightingale والطبيعة الاحتمالية للذكاء الاصطناعي

وقعت سيناريوهات مشابهة من قبل: ففي قضية مشروع Google Nightingale نُقلت بيانات ملايين المرضى إلى شركة تكنولوجيا دون علم أصحابها. والفرق أن المستخدمين اليوم يسلّمون معلوماتهم الطبية طوعًا، مدفوعين براحة واجهة روبوت الدردشة. وفي المقابل، النموذج اللغوي ليس قاعدة معرفة، بل مولّد لأكثر تسلسلات الكلمات احتمالًا. وفي مهام مثل كتابة الشيفرة البرمجية أو المقالات، قد تبدو إجابة النموذج الخاطئة لكن «المحتملة» طريفة؛ أما في السياق الطبي فإن «الهلوسة» في جرعة دواء أو في تفسير نظم القلب خطر أشد بكثير.

التجسيم البشري وغياب المسؤولية

يُفهم الرد المهذّب والمنظّم لا شعوريًا على أنه علامة كفاءة، وهذا هو أثر التجسيم البشري (anthropomorphism): إذ يميل الناس إلى الوثوق بالروبوت أكثر مما ينبغي. لكن وراء هذه الواجهة لا توجد المسؤولية التي يتميز بها الطب: فإذا أخطأ الطبيب، يخاطر برخصته وبدعوى قضائية. أما إذا قدّم روبوت الدردشة نصيحة خاطئة، فيمكن للشركة أن تحتجّ ببند في اتفاقية المستخدم ينص على أن الخدمة مخصصة «لأغراض الاطلاع فقط».

الخلاصة: شركات التكنولوجيا ليست مؤسسات طبية، وسهولة التواصل مع روبوت الدردشة لا تعني حماية البيانات الطبية الشخصية. فاستخدام الذكاء الاصطناعي للبحث عن معلومات عامة أو لتنظيم الملاحظات أمر، وتحويل روبوت الدردشة إلى حارس للسجل المرضي والوصفات الطبية أمر مختلف تمامًا.

كم شخصًا يلجأ أسبوعيًا إلى ChatGPT لطلب نصائح صحية؟

أكثر من 230 مليون شخص في الأسبوع، بحسب بيانات تنشرها OpenAI.

بماذا يختلف

ChatGPT عن الطبيب من حيث الالتزامات تجاه المستخدم؟

لا تلتزم شركات التكنولوجيا بالواجبات نفسها التي تلتزم بها المؤسسات الطبية: فبروتوكولات السرية مثل HIPAA وGDPR لا تنطبق عليها بالطريقة نفسها التي تنطبق بها على الأطباء والعيادات، كما تنص اتفاقيات المستخدم على أن الخدمة مخصصة «لأغراض الاطلاع فقط».

ماذا يحدث للبيانات الطبية التي يرفعها المستخدم إلى الدردشة؟

تتوقف عن كونها سرًّا شخصيًا وتصبح جزءًا من مجموعة البيانات المستخدمة لتدريب الإصدارات المقبلة من النموذج؛ وتَعِد الشركات بإخفاء الهوية، لكن تاريخ التسريبات في هذه الصناعة يُظهر أن هذا المفهوم هشّ ومؤقت.