تشخيص من الخوارزمية: من يتحمل المسؤولية عندما يخطئ AI في الطب

ثورة صامتة تحدث في غرف العمليات والعيادات التشخيصية في جميع أنحاء العالم. تقرأ خوارزميات التعلم الآلي الأشعات السينية، وتحلل نتائج الخزعات، وتكتشف اضطرابات النظم على مخطط القلب الكهربائي، وتتنبأ باحتمالية تطور الأمراض السرطانية. وفقاً لمنظمة الصحة العالمية، بحلول مطلع عام 2026، حصل أكثر من 500 نظام ذكاء اصطناعي على الموافقة التنظيمية للاستخدام السريري في الولايات المتحدة وحدها. التكنولوجيا تعمل، وغالباً ما تعمل بطريقة مثيرة للإعجاب. لكن خلف واجهة التفاؤل التكنولوجي تكمن سؤال لم تجد له المجتمعات الطبية والمشرعون والمطورون إجابة مقنعة حتى الآن: من يتحمل المسؤولية عندما تخطئ الخوارزمية؟

المشكلة ليست نظرية. في عام 2025، أظهرت عدة حالات بارزة في أوروبا وآسيا أن مساعدات الذكاء الاصطناعي قادرة على تفويت أمراض حرجة أو، بالعكس، توليد نتائج إيجابية كاذبة تؤدي إلى إجراءات غزيرة غير ضرورية. في كل حالة من هذه الحالات، تشتت المسؤولية بين عدة أطراف في السلسلة: ادعت شركة التطوير أن النظام كان مجرد أداة دعم اتخاذ القرار، واستشهدت المستشفى بشهادة المنتج، ووجد الطبيب نفسه محاصراً بين خبرته الخاصة وتوصية الآلة التي ثبت أنها أكثر دقة منه في آلاف الحالات السابقة.

جذر المشكلة يكمن في بنية الذكاء الاصطناعي الطبي الحديث نفسها. يتم بناء معظم الأنظمة السريرية على مبدأ "الصندوق الأسود"—الشبكات العصبية العميقة تتخذ قرارات لا يمكن شرح منطقها بالكامل حتى من قبل منشئيها. عندما يفحص أخصائي الأشعات صورة ويصدر تشخيصاً، يستطيع تبرير كل خطوة في تفكيره. عندما تفعل الخوارزمية نفس الشيء، فإنها تنتج احتمالية وخريطة حرارية للانتباه، لكن ليس تبريراً سريرياً. هذا يخلق فجوة أساسية: يُجبر الطبيب إما على الثقة العمياء بالنظام أو على إجراء تقييم مستقل كامل في كل مرة، مما يلغي جميع مكاسب الكفاءة.

جانب منفصل من هذه المشكلة هو ما يسمى بتأثير انحياز الأتمتة. أظهرت عقود من البحث في الطيران والصناعة أن الناس يميلون إلى الاعتماد المفرط على الأنظمة الآلية، مما يفقدون تدريجياً مهاراتهم في التقييم النقدي. في الطب، هذا التأثير هو بالتالي أخطر من أي مجال آخر. الأطباء الشباب الذين يعملون مع مساعدات الذكاء الاصطناعي منذ سنواتهم الأولى من التدريب يخاطرون بعدم تطوير عمق التفكير السريري الذي سمح لأسلافهم بالكشف عن الأمراض النادرة التي لا تتطابق مع الأنماط الإحصائية. تُدرب الخوارزمية على ملايين الحالات النموذجية، لكن الطب هو إلى حد كبير فن التعامل مع الاستثناءات.

لا تزال الساحة التنظيمية تشبه بطانية رقعة. قانون الذكاء الاصطناعي الأوروبي، الذي دخل حيز التنفيذ بشكل تدريجي، يصنف أنظمة الذكاء الاصطناعي الطبي كعالية المخاطر ويتطلب الشفافية، لكن آليات محددة لتوزيع المسؤولية تبقى غامضة. في روسيا، وزارة الصحة تعزز بنشاط رقمنة الرعاية الصحية، لكن الإطار التنظيمي لتشخيص الذكاء الاصطناعي يتطور بشكل أبطأ من التكنولوجيات نفسها. تقتصر مسألة المسؤولية القانونية على معضلة كلاسيكية: نظام الذكاء الاصطناعي ليس موضوعاً قانونياً، لا يمكن مساءلته أو سحب ترخيصه أو مقاضاته في المحكمة.

يتشكل النهج الأكثر نضجاً لهذه المشكلة في المملكة المتحدة، حيث طورت خدمة الصحة الوطنية إطار عمل يقسم المسؤولية إلى ثلاثة مستويات. يتحمل المطور مسؤولية التحقق من صحة وسلامة الخوارزمية. المؤسسة الطبية مسؤولة عن التنفيذ السليم والمراقبة. يحتفظ الطبيب بالمسؤولية السريرية النهائية، بشرط أن يتم تزويده بأدوات مناسبة للتقييم النقدي لتوصيات الذكاء الاصطناعي. هذا ليس حلاً مثالياً، لكنه على الأقل إطار عمل فعال يسمح بالمضي قدماً.

على الصناعة أن تعترف بحقيقة غير مريحة: النضج التكنولوجي للذكاء الاصطناعي في الطب قد تفوق بكثير الاستعداد المؤسسي لتطبيقه. تتفوق الخوارزميات بالفعل على المتخصصين العاديين في عدد من المهام التشخيصية الضيقة، لكن نظام الرعاية الصحية هو أكثر من مجرد دقة في التعرف على الأمراض. إنها ثقة المريض والحماية القانونية والمعايير الأخلاقية والتعاطف الإنساني الذي لا يمكن رقمنته. مستقبل الذكاء الاصطناعي الطبي لا يكمن في استبدال الطبيب، بل في خلق نموذج شراكة جديد حيث يتم تحديد حدود المسؤولية بوضوح مثل بروتوكولات العلاج. حتى يحدث ذلك، يظل كل تشخيص قائم على الخوارزمية تجربة—رائعة تقنياً، لكنها هشة قانونياً وأخلاقياً.