اعتراف للخوارزمية: لماذا ChatGPT أسوأ حارس لأسرارك الطبية

يلجأ أكثر من 230 مليون شخص أسبوعيًا إلى ChatGPT طلبًا للنصائح المتعلقة بالصحة والعافية — هذا ما تشير إليه بيانات صادرة عن OpenAI. وينقل موقع The Verge هذا الخبر. وتقول الشركة إن روبوت الدردشة أصبح بالنسبة لكثير من المستخدمين بمثابة "حليف": فهو يساعدهم على فهم متاهة خطط التأمين، وإنجاز المستندات، والدفاع بثقة أكبر عن مصالحهم داخل النظام الصحي. لكن شركات التكنولوجيا غير ملزمة بنفس الالتزامات التي تقع على عاتق المؤسسات الطبية — وهذه الفجوة تحديدًا هي مكمن الخطر الأكبر.

لماذا يثق المستخدمون بروبوت الدردشة في أمور صحتهم

كثيرًا ما يشعر المرء بأن الطب الحديث متاهة بيروقراطية معقدة، يشعر فيها المريض بأنه مجرد حلقة زائدة. وفي ظل هذا الواقع، يبدو ChatGPT، بلطفه واستجابته الفورية وتوفره الدائم، بمثابة منقذ: فهو لا يستعجل، ولا يتضايق من تكرار الأسئلة، وهو مستعد لمناقشة الأعراض في أي وقت من اليوم. وتصف OpenAI هذا الدور بأنه دور "الحليف" الذي يساعد على التعامل مع المراسلات مع شركات التأمين، وإنجاز المستندات، وبشكل عام الدفاع بثقة أكبر عن مصالحه كمريض. لكن المشكلة أن هذه الاستجابة ليست سوى محاكاة إحصائية عالية الجودة، لا اهتمامًا واعيًا: فروبوت الدردشة لم يقسم قسم أبقراط قط.

فراغ قانوني: روبوت الدردشة ليس مؤسسة طبية

يلتزم الأطباء والعيادات ببروتوكولات صارمة لحماية الخصوصية، مثل قانون HIPAA في الولايات المتحدة أو اللائحة الأوروبية GDPR. أما OpenAI وغيرها من شركات التكنولوجيا فتعمل وفق اتفاقيات استخدام يتصفحها معظم الناس في ثوانٍ معدودة. وعندما يرفع المستخدم إلى المحادثة صورة رنين مغناطيسي أو قائمة بالأدوية التي يتناولها، تتوقف هذه البيانات عن كونها سرًا شخصيًا بحتًا، وتصبح جزءًا من مجموعة البيانات التي تُدرَّب عليها النسخ المستقبلية من النموذج. وتَعِد الشركات بإخفاء الهوية، لكن تاريخ تسريبات البيانات في هذا القطاع يُظهر أن "إخفاء الهوية" على الإنترنت مفهوم هش ومؤقت. فشركات التكنولوجيا غير ملزمة بنفس الالتزامات التي تقع على عاتق المؤسسات الطبية.

سابقة

Google Nightingale والطبيعة الاحتمالية للذكاء الاصطناعي

سبق أن حدثت سيناريوهات مشابهة: ففي قضية مشروع Google Nightingale، جرى نقل بيانات ملايين المرضى إلى شركة تكنولوجية دون علم الأشخاص أنفسهم. والفرق الآن أن المستخدمين يقدمون معلوماتهم الطبية طواعية، مدفوعين بسهولة واجهة روبوت الدردشة. وفي الوقت نفسه، فإن النموذج اللغوي ليس قاعدة معرفة، بل مولّد لأكثر تسلسلات الكلمات ترجيحًا من الناحية الإحصائية. ففي مهام مثل كتابة الشيفرة البرمجية أو مقال ما، قد تبدو إجابة النموذج الخاطئة لكن "المرجّحة" أمرًا طريفًا؛ أما في السياق الطبي، فإن حدوث "هلوسة" بشأن جرعة دواء أو تفسير إيقاع القلب يمثل خطرًا أشد جسامة بكثير.

الأنسنة وغياب المساءلة

تُدرَك الإجابة المهذبة والمنظمة بشكل لا واعٍ كعلامة على الكفاءة — وهذا ما يُعرف بأثر الأنسنة: إذ يميل الناس إلى الوثوق بالروبوت أكثر مما ينبغي. لكن خلف هذه الواجهة لا وجود للمساءلة التي يتسم بها الطب: فإذا ارتكب طبيب خطأً، فإنه يخاطر بترخيصه ويتعرض لدعوى قضائية. أما إذا قدّم روبوت الدردشة نصيحة خاطئة، فبإمكان الشركة أن تستند إلى بند في اتفاقية الاستخدام ينص على أن الخدمة مخصصة "لأغراض إعلامية فقط".

الخلاصة: شركات التكنولوجيا ليست مؤسسات طبية، وسهولة التحدث مع روبوت الدردشة لا تعني حماية البيانات الطبية الشخصية. فاستخدام الذكاء الاصطناعي للبحث عن معلومات عامة أو تنظيم الملاحظات أمر، وتحويل روبوت الدردشة إلى أمين على السجل الطبي والوصفات أمر مختلف تمامًا.

كم عدد الأشخاص الذين يلجأون إلى

ChatGPT أسبوعيًا طلبًا للنصائح الصحية؟

أكثر من 230 مليون شخص أسبوعيًا — وفق البيانات التي تشير إليها OpenAI.

بماذا يختلف

ChatGPT عن الطبيب من حيث الالتزامات تجاه المستخدم؟

شركات التكنولوجيا غير ملزمة بنفس الالتزامات التي تقع على عاتق المؤسسات الطبية: فبروتوكولات الخصوصية مثل HIPAA وGDPR لا تنطبق عليها كما تنطبق على الأطباء والعيادات، كما تنص اتفاقيات الاستخدام على أن الخدمة مخصصة "لأغراض إعلامية فقط".

ماذا يحدث للبيانات الطبية التي يرفعها المستخدم إلى المحادثة؟

تتوقف عن كونها سرًا شخصيًا وتصبح جزءًا من مجموعة البيانات المستخدمة لتدريب النسخ المستقبلية من النموذج؛ وتَعِد الشركات بإخفاء الهوية، لكن تاريخ تسريبات البيانات في هذا القطاع يُظهر أن هذا المفهوم هش ومؤقت.