تشخيص من خوارزمية: من يتحمل المسؤولية عندما يخطئ الذكاء الاصطناعي في الطب

في غرف العمليات وعيادات التشخيص حول العالم، تجري ثورة هادئة. فخوارزميات التعلم الآلي تقرأ صور الأشعة السينية، وتحلل نتائج الخزعات، وترصد اضطرابات النظم القلبية في تخطيط القلب، وتتنبأ باحتمال الإصابة بالأمراض السرطانية. وبحسب بيانات منظمة الصحة العالمية، حصل أكثر من 500 نظام ذكاء اصطناعي على موافقة تنظيمية للاستخدام السريري في الولايات المتحدة وحدها بحلول مطلع عام 2026. التقنية تعمل، وتعمل في كثير من الأحيان بشكل لافت. لكن خلف واجهة التفاؤل التقني يكمن سؤال لم يجد له المجتمع الطبي ولا المشرّعون ولا المطوّرون جوابًا مقنعًا حتى الآن: من يتحمل المسؤولية عندما تخطئ الخوارزمية؟

المشكلة ليست نظرية. ففي عام 2025 أظهرت عدة حالات أثارت ضجة واسعة في أوروبا وآسيا أن مساعدات الذكاء الاصطناعي قد تغفل أمراضًا حرجة، أو تولّد على العكس نتائج إيجابية كاذبة تفضي إلى إجراءات تدخلية غير ضرورية. وفي كل حالة من هذه الحالات تشتّتت المسؤولية بين عدة أطراف في السلسلة: فشركة التطوير أشارت إلى أن النظام مجرد أداة لدعم اتخاذ القرار، والمستشفى احتجّت بشهادة اعتماد المنتج، أما الطبيب فوجد نفسه عالقًا بين خبرته الشخصية وتوصية آلة أثبتت في آلاف الحالات السابقة أنها أدق منه.

يكمن جذر المشكلة في بنية الذكاء الاصطناعي الطبي الحديث نفسها. فمعظم الأنظمة السريرية مبنية على مبدأ «الصندوق الأسود»: شبكات عصبية عميقة تتخذ قرارات يتعذر شرح منطقها شرحًا كاملًا حتى على مبتكريها. وحين ينظر اختصاصي الأشعة إلى صورة ويصدر تقريره، يستطيع أن يبرّر كل خطوة في استدلاله. أما حين تفعل الخوارزمية الأمر نفسه، فإنها تقدّم احتمالًا وخريطة حرارية للانتباه، لا تعليلًا سريريًا. وهذا يخلق فجوة جوهرية: فإما أن يثق الطبيب بالنظام ثقة عمياء، أو أن يجري في كل مرة تقييمًا مستقلًا كاملًا، وهو ما يُبطل كل المكاسب في الكفاءة.

وثمة جانب آخر من المشكلة هو ما يسمى «تأثير الأتمتة». فقد أظهرت عقود من الأبحاث في الطيران والصناعة أن الناس يميلون إلى الإفراط في الاعتماد على الأنظمة الآلية، فتتراجع تدريجيًا مهاراتهم في التقييم النقدي. وفي الطب، قد يكون هذا التأثير أخطر منه في أي مجال آخر. فالأطباء الشباب الذين يعملون مع مساعدات الذكاء الاصطناعي منذ سنوات تدريبهم الأولى يخاطرون بألا يطوّروا أبدًا ذلك العمق في التفكير السريري الذي مكّن أسلافهم من اكتشاف الأمراض النادرة التي لا تنسجم مع الأنماط الإحصائية. فالخوارزمية مدرَّبة على ملايين الحالات النموذجية، بينما الطب في جانب كبير منه فنّ التعامل مع الاستثناءات.

لا يزال المشهد التنظيمي أشبه برقعة مرقّعة. فقانون الذكاء الاصطناعي الأوروبي (AI Act)، الذي دخل حيز التنفيذ على مراحل، يصنّف أنظمة الذكاء الاصطناعي الطبية ضمن الأنظمة عالية المخاطر ويشترط الشفافية، لكن الآليات المحددة لتوزيع المسؤولية ما زالت غامضة. وفي روسيا، تدفع وزارة الصحة بنشاط نحو رقمنة القطاع الصحي، غير أن الإطار التنظيمي للتشخيص بالذكاء الاصطناعي يتطور بوتيرة أبطأ من التقنيات نفسها. وتصطدم مسألة المسؤولية القانونية بمعضلة كلاسيكية: نظام الذكاء الاصطناعي ليس شخصًا من أشخاص القانون، ولا يمكنه تحمّل المسؤولية، ولا أن يُسحب ترخيصه، ولا أن يُجرّ إلى المحكمة.

ويتشكل النهج الأكثر نضجًا في هذه المسألة في بريطانيا، حيث وضعت هيئة الخدمات الصحية الوطنية إطارًا يقسّم المسؤولية إلى ثلاثة مستويات. فالمطوّر مسؤول عن التحقق من الخوارزمية وسلامتها. والمؤسسة الطبية مسؤولة عن التطبيق الصحيح والمراقبة. أما الطبيب فيحتفظ بالمسؤولية السريرية النهائية، لكن بشرط أن تتاح له أدوات كافية للتقييم النقدي لتوصيات الذكاء الاصطناعي. وهذا ليس حلًا مثاليًا، لكنه إطار عملي على الأقل يتيح المضي قدمًا.

وعلى الصناعة أن تقرّ بحقيقة غير مريحة: فالنضج التقني للذكاء الاصطناعي في الطب سبق بكثير الجاهزية المؤسسية لاستخدامه. فالخوارزميات تتفوق بالفعل على الاختصاصيين المتوسطين في عدد من مهام التشخيص الضيقة، لكن نظام الرعاية الصحية ليس دقة التعرف على الأمراض وحدها. إنه ثقة المريض، والحماية القانونية، والمعايير الأخلاقية، والتعاطف الإنساني الذي يستحيل رقمنته. ومستقبل الذكاء الاصطناعي الطبي لا يكمن في استبدال الطبيب، بل في بناء نموذج جديد للشراكة تُحدَّد فيه حدود المسؤولية بوضوح يضاهي وضوح بروتوكولات العلاج. وإلى أن يحدث ذلك، يبقى كل تشخيص تضعه الخوارزمية تجربة، لامعة من الناحية التقنية، لكنها هشّة قانونيًا وأخلاقيًا.