روبوتات الدردشة الشائعة بالذكاء الاصطناعي تخطئ في التشخيص في أكثر من 80 % من الحالات — خلاصة دراسة

تؤدي روبوتات الذكاء الاصطناعي الاستهلاكية الشائعة دور المشخّص الرقمي بصورة سيئة. فقد أظهرت دراسة أنها تخطئ في أكثر من 80 % من الحالات عند محاولة وضع تشخيص طبي بالاعتماد على مجموعة محدودة من الأعراض.

كيف اختُبرت الروبوتات

لم يختبر الباحثون أنظمة طبية متخصصة، بل روبوتات دردشة جماهيرية يلجأ إليها المستخدمون للحصول على إجابة سريعة عن أي سؤال. وقد عُرضت عليها سيناريوهات ببيانات ناقصة عن حالة المريض — على نحو يشبه ما يصف به الشخص شعوره في رسالته الأولى، دون تحاليل أو فحص أو أسئلة توضيحية من الطبيب.

بدت المهمة بسيطة: مطابقة الأعراض مع السبب المحتمل. لكن المشكلة الرئيسية ظهرت تحديدًا في هذا النمط من الاستخدام: فالإجابة الواثقة والمترابطة والمريحة في صياغتها كثيرًا ما لم تتطابق مع الاستنتاج السليم سريريًا.

ومن المهم أيضًا أن هذا الشكل قريب جدًا من سلوك المستخدمين الفعلي. فنادرًا ما يأتي الناس إلى الروبوت بسجل طبي منظّم؛ والأغلب أن تكون بضع جمل عن ألم أو حرارة أو ضعف أو عرض غير معتاد يريدون تفسيره بسرعة دون حجز موعد في عيادة. لذلك لم يختبر الاختبار فعليًا قدرة النموذج المجرّدة على الاستدلال في الطب، بل مدى صلاحيته في سيناريو يومي، وهو السيناريو الذي يغري باستبدال استشارة المختص بإجابة فورية من الدردشة.

من أين تأتي الأخطاء

تجيد النماذج العامة إعادة سرد المعلومات العامة وشرح المصطلحات وجمع المعلومات في إجابة موجزة. لكن التشخيص الطبي يعمل بطريقة مختلفة: فهو يتطلب التعامل مع عدم اليقين، واستبعاد الاحتمالات المتشابهة، ومراعاة السيناريوهات النادرة لكنها الخطرة، وأحيانًا الإقرار بصراحة بأن البيانات غير كافية. أما روبوت الدردشة الاستهلاكي فيميل إلى إنهاء الطلب بإجابة تبدو مفيدة، بدلًا من التوقف عند صياغة آمنة وتوجيه الشخص إلى المختص.

وثمة مشكلة إضافية: روبوت الدردشة الجماهيري لا يجري حوارًا تشخيصيًا كاملًا. فقد يطرح سؤالين توضيحيين، لكنه لا يبني فحصًا منهجيًا للفرضيات، ولا يطابق الإجابات مع قياسات موضوعية، ولا يتحمل مسؤولية سريرية عن النتيجة. وحتى إن أصاب النموذج الاتجاه العام، فمن السهل أن يغفل تفاصيل تغيّر الاستنتاج كله عند الطبيب: مدة الأعراض، والأمراض المصاحبة، والأدوية، والعمر، والعمليات الجراحية الأخيرة، أو وتيرة التدهور.

وتزداد المشكلة حين تتقاطع الأعراض بين عشرات الحالات ويصفها المستخدم بدقة غير كافية أو بإيجاز مفرط. في مثل هذه الظروف يبدأ النموذج باستكمال الصورة وفق قالب جاهز ويضغط عدم اليقين في إجابة واحدة واثقة، بينما كان الطبيب في الممارسة الفعلية سيُبقي عدة فرضيات ويطلب فحوصات إضافية. وهذا ما يجعل الخطأ غير ملحوظ بوجه خاص بالنسبة إلى المستخدم.

ونتيجة لذلك تظهر إخفاقات نموذجية:

• يخلط الروبوت بين حالات متشابهة الأعراض
• يقلّل من درجة الاستعجال في الحالات التي قد تكون خطرة
• يقدّم تشخيصًا واحدًا واثقًا حيث يلزم قائمة بالفرضيات
• لا يفصل بين المعلومات المرجعية والقرار الطبي

لماذا هذا خطير

الخطر الرئيسي ليس في أن الروبوت يخطئ أحيانًا، بل في أنه يخطئ بصورة مقنعة. فقد يبدو النبرة الهادئة الواثقة للمستخدم علامةً على الكفاءة، مع أنه لا يقف وراء الإجابة فحص ولا اطلاع على السجل المرضي ولا مراجعة للتحاليل. وإذا تلقى الشخص طمأنينة زائفة، فقد يؤجل زيارة الطبيب، أو يفوّت تدهور حالته، أو يختار إجراءات خاطئة في الساعات الأولى التي تكون فيها سرعة الاستجابة حاسمة.

ويزداد هذا السيناريو خطورة حين تشبه الأعراض شيئًا بسيطًا لكنها تتطلب في الواقع تقييمًا عاجلًا: مثل الألم الشديد، أو ضيق التنفس، أو الاضطرابات العصبية، أو علامات العدوى. وفي هذه الحالات لا يكون الخطأ مجرد صياغة غير دقيقة في الدردشة، بل وقتًا ضائعًا. فروبوتات الدردشة الاستهلاكية مُحسَّنة لراحة التواصل وإحساس المستخدم بالفائدة، وليس للفرز الطبي المتحفظ الذي يُفضَّل فيه توجيه الشخص إلى الطبيب مرة زائدة على تفويت إشارة حرجة.

وهذا لا يعني أن الذكاء الاصطناعي عديم الفائدة في الطب. فهذه الأنظمة يمكن أن تساعد في صياغة الشكاوى، وشرح معاني المصطلحات، وإعداد أسئلة للموعد، أو التذكير بالبيانات التي يُستحسن تجهيزها قبل الاستشارة. لكن كأداة لوضع التشخيص، تظل روبوتات الدردشة الجماهيرية غير موثوقة حتى الآن، خصوصًا حين تكون المعلومات قليلة والأعراض غامضة وثمن الخطأ مرتفعًا. وفي هذا الدور، من الأجدى استخدامها طبقةً تحضيرية ومرجعية قبل مراجعة الطبيب، لا حَكَمًا نهائيًا.

ماذا يعني ذلك

خلاصة الدراسة حازمة إلى حد ما: لا ينبغي النظر إلى روبوتات الذكاء الاصطناعي الشائعة على أنها بديل عن الطبيب، حتى لو وجدت المعلومات بسرعة وتحدثت بثقة. فبالنسبة إلى المستخدمين، هذا هو حد الثقة، وبالنسبة إلى الشركات هو إشارة إلى أن السيناريوهات الطبية تتطلب ضبطًا دقيقًا ومتخصصًا، وفحصًا من قبل المختصين، وعرضًا شديد الحذر للإجابات.