MIT تطور ذكاء اصطناعي 'متواضع' للتشخيص يظهر الشكوك بصراحة

اقترح باحثون من معهد ماساتشوستس للتكنولوجيا نهجاً جديداً للذكاء الاصطناعي الطبي: يجب ألا يدعي نظام التشخيص السريري أنه يعرف كل شيء، بل يجب أن يُظهر بصراحة متى تنقصه البيانات. بدلاً من أن يكون "وحياً"، تريد الفريق تحويل النموذج إلى شريك للأطباء يساعد على جمع المعلومات الناقصة ولا يفرض إجابة استبدادية.

لماذا تحتاج أنظمة الذكاء الاصطناعي إلى هذا

طالما وعدت أنظمة الذكاء الاصطناعي بتسريع التشخيص والمساعدة في اختيار العلاجات، لكن في العيادات لديها ضعف خطير: غالباً ما تبدو واثقة جداً حتى عندما تكون مخطئة. يستشهد فريق معهد ماساتشوستس للتكنولوجيا ببحوث سابقة حيث كان أطباء العناية المركزة يميلون إلى اتباع نصيحة الخوارزمية إذا اعتبروها موثوقة، حتى عندما كانت حدسهم الخاص يوحي بالعكس. تنطبق نفس المنطق على المرضى: النبرة الاستبدادية تزيد الثقة حتى في التوصيات غير الصحيحة.

المشكلة ليست فقط دقة النماذج، بل كيفية تقديمها للإجابات. إذا أصدر النظام التشخيص كحقيقة نهائية مع سياق غير مكتمل، يحصل الطبيب على شعور كاذب بالتأكد. في أقسام الطوارئ وقسم العناية المركزة هذا محفوف بالمخاطر بشكل خاص: غالباً ما تُتخذ القرارات بسرعة، وتكلفة الخطأ عالية.

لهذا السبب يقترح الباحثون تعليم النموذج أن يفعل أكثر من مجرد الإجابة—أن يشير صراحةً إلى حدود ثقته.

كيف يعمل النهج

يصف الفريق إطار عمل يمكن دمجه في الأنظمة الموجودة لدعم القرارات السريرية. الوحدة الأولى فيه تجبر النموذج على تقييم ثقته الخاصة قبل إصدار التوقعات التشخيصية. للقيام بذلك، يستخدم الباحثون مقياس Epistemic Virtue Score، الذي تم تطويره مع العلماء من جامعة ملبورن. إنها في الأساس فحص الوعي الذاتي: يجب أن تتطابق ثقة النموذج مع تعقيد الحالة وحجم البيانات المتاحة. إذا رأى النظام أن ثقته أعلى مما تسمح به الأدلة، فلا يجب أن يفرض الاستنتاج بل يغير السلوك:

• تحديد الفجوة بين الثقة وجودة البيانات
• طلب اختبارات محددة أو تفاصيل التاريخ الطبي أو الأعراض المفقودة
• اقتراح التشاور مع متخصص
• تلميح إلى أي معلومات ستقلل عدم اليقين
• التحذير من أن الإجابة الحالية تتطلب تفسيراً حذراً

"الآن نستخدم الذكاء الاصطناعي كنبي، لكن يمكن أن يصبح مدرباً وزميل

طيران حقيقياً"، يقول ليو أنتوني تشيلي. ساعد فريق تشيلي سابقاً في إنشاء مجموعات بيانات كبيرة للذكاء الاصطناعي الطبي، بما في ذلك قاعدة بيانات MIMIC. الآن يحاول الباحثون دمج النهج الجديد في الأنظمة التي تعمل على هذه البيانات، وإظهاره للأطباء السريريين في شبكة Beth Israel Lahey Health. وفقاً لهم، يمكن تطبيق نفس النهج ليس فقط على مساعدي التشخيص النصيين، بل أيضاً على أنظمة تحليل الأشعات السينية أو اختيار تكتيكات العلاج في غرفة الطوارئ.

مشكلة البيانات

العمل على ذكاء اصطناعي "متواضع" هو جزء من برنامج أوسع في معهد ماساتشوستس للتكنولوجيا لإنشاء نماذج طبية مصممة ليس فقط للناس بل معهم. يؤكد الباحثون بشكل منفصل على خطر الانحيازات في البيانات: يتم تدريب العديد من النماذج الشهيرة على مجموعات بيانات عامة من الولايات المتحدة وتتوارث حتماً وجهة نظر معينة حول المرض والعلاج وتنظيم الرعاية الصحية. ما يتم وصفه بشكل جيد في نظام صحي واحد قد يعمل بشكل أسوأ في نظام آخر أو يستبعد فئات كاملة من المرضى بشكل غير مرئي.

هناك أيضاً مشكلة أكثر عملية: تم إنشاء السجلات الطبية الإلكترونية في الأصل ليس كمصدر مثالي لتدريب النماذج التشخيصية. غالباً ما تفتقد السياق الذي يحصل عليه الطبيب من المحادثة أو الملاحظة أو الخبرة. بالإضافة إلى ذلك، بعض المرضى لا ينتهي بهم الحال في مثل هذه مجموعات البيانات على الإطلاق بسبب الوصول المحدود إلى الرعاية الصحية—على سبيل المثال، الأشخاص من المناطق الريفية.

في ورش عمل MIT Critical Data، يتحقق الباحثون والأطباء وعلماء الاجتماع والمرضى أنفسهم بشكل جماعي عمن ينقص في مجموعة البيانات وما هي الانحيازات الهيكلية التي قد يعززها النموذج.

ما الذي يعنيه هذا

المرحلة التالية من تطور الذكاء الاصطناعي الطبي ليست فقط الكفاح من أجل المزيد من نقاط النسبة المئوية للدقة في المعايير، بل معرفة كيفية الشك في الوقت المناسب. إذا وصل هذا النهج إلى العيادات الحقيقية، فإن قيمة النموذج ستكون ليس في استبدال الطبيب، بل في عمل أكثر شفافية وحذراً وتعاونياً معه.