أخطاء الاستدلال لدى الذكاء الاصطناعي أخطر من الإجابات الخاطئة

من المعروف على نطاق واسع أن الذكاء الاصطناعي (AI) ما زال يرتكب أخطاء. لكن المشكلة الأخطر قد تكمن في الطريقة التي يصل بها إلى استنتاجاته. ومع تزايد استخدام الذكاء الاصطناعي التوليدي كمساعد لا كمجرد أداة، تُظهر دراستان جديدتان أن منطق النماذج قد تكون له عواقب وخيمة في مجالات حرجة مثل الرعاية الصحية والقانون والتعليم.

في السنوات الأخيرة، ارتفعت دقة النماذج اللغوية الكبيرة (LLM) في الإجابة عن أسئلة في مواضيع متنوعة ارتفاعًا ملحوظًا. وأثار ذلك اهتمامًا متزايدًا بإمكانات هذه التقنية في مجالات مثل تشخيص الأمراض، وتقديم الرعاية العلاجية، وأداء دور المعلّم الافتراضي. وتشير تقارير متفرقة إلى أن المستخدمين يعتمدون بالفعل على نماذج LLM الجاهزة في مثل هذه المهام، بنتائج متفاوتة. فقد ألغت امرأة في كاليفورنيا إشعار إخلاء بعد استعانتها بالذكاء الاصطناعي في الحصول على استشارة قانونية، بينما أصيب رجل في الستين من عمره بتسمم بالبروميد بعد أن لجأ إلى هذه الأدوات طلبًا لنصائح طبية. ويحذّر المعالجون النفسيون من أن استخدام الذكاء الاصطناعي لدعم الصحة النفسية كثيرًا ما يفاقم أعراض المرضى.

وتشير الدراسات الجديدة إلى أن جزءًا من المشكلة يتمثل في أن هذه النماذج تستدل بطريقة تختلف جوهريًا عن طريقة البشر، ما قد يؤدي إلى «انهيارها» عند التعامل مع المسائل الأكثر تعقيدًا. فقد خلصت ورقة بحثية حديثة في Nature Machine Intelligence إلى أن النماذج تواجه صعوبة في التمييز بين معتقدات المستخدمين والحقائق، بينما تفيد ورقة غير منشورة على arXiv بأن الأنظمة متعددة الوكلاء المصمَّمة لتقديم استشارات طبية عرضة لعيوب في الاستدلال قد تُفشل عملية التشخيص.

«مع انتقالنا من الذكاء الاصطناعي بوصفه أداة فقط إلى الذكاء الاصطناعي بوصفه وكيلًا، تزداد أهمية "الكيفية"»، يقول جيمس زو، الأستاذ المشارك في علوم البيانات الطبية الحيوية في كلية الطب بجامعة ستانفورد والمؤلف الرئيسي للورقة المنشورة في Nature Machine Intelligence. «فحين تستخدمه بديلًا عن المستشار أو المعلّم أو الطبيب، أو حتى الصديق، لا تكون الإجابة النهائية وحدها هي المهمة. المهم حقًا هو العملية بأكملها والحوار برمّته».

وقد تكون المشكلات في طريقة اتخاذ النماذج للقرارات إشكالية بوجه خاص في البيئات الطبية. فهناك اهتمام متزايد باستخدام الأنظمة متعددة الوكلاء، حيث يشارك عدة وكلاء من الذكاء الاصطناعي في نقاش مشترك لحل مسألة ما، على أمل محاكاة الفرق الطبية متعددة التخصصات التي تشخّص الحالات المرضية المعقدة، بحسب لكوان يو، الأستاذ المشارك في قسم الذكاء الاصطناعي الطبي بجامعة هونغ كونغ. ولذلك قرر مع زملائه دراسة كيفية استدلال هذه الأنظمة عند حل المشكلات، فاختبروا ستة منها على 3600 حالة حقيقية مأخوذة من ست مجموعات بيانات طبية.

ويقول فريقا الباحثين إن عيوب الاستدلال لدى النماذج تعود إلى طريقة تدريبها. فنماذج LLM الأحدث تُدرَّب على الاستدلال في المسائل المعقدة متعددة الخطوات باستخدام التعلم المعزز، حيث تحصل النماذج على مكافأة عن المسارات المنطقية التي تقود إلى استنتاج صحيح. غير أنها تُدرَّب عادةً على مهام لها حلول محددة، مثل البرمجة والرياضيات، وهي مهام لا تناسب المسائل الأكثر انفتاحًا، مثل تحديد المعتقدات الذاتية لدى الإنسان، بحسب زو. كما أن التركيز على مكافأة النتائج الصحيحة يعني أن التدريب لا يُحسّن عمليات الاستدلال الجيدة، كما يقول تشو. وتندر في مجموعات البيانات الحوارات والنقاشات اللازمة لبناء أنظمة طبية فعّالة متعددة الوكلاء، وهو ما يرى أنه قد يفسّر تمسك الوكلاء برأيهم سواء كانوا على صواب أم على خطأ.

ويُعدّ تحسين أساليب التدريب، ولا سيما إيلاء مزيد من الاهتمام لعمليات الاستدلال لا للنتائج النهائية فقط، خطوة أساسية. كما أن إعداد مجموعات بيانات تتضمن أمثلة على التعاون الفعّال والنقاش قد يساعد النماذج على تكوين فهم أدق للمسائل المعقدة. وعندئذٍ فقط يمكننا الاعتماد على الذكاء الاصطناعي بأمان في المجالات الحرجة مثل الرعاية الصحية والتعليم.