أخطاء الاستدلال في الذكاء الاصطناعي أخطر من الإجابات الخاطئة

يُعترف على نطاق واسع بأن الذكاء الاصطناعي (AI) لا يزال يرتكب أخطاء. ومع ذلك، قد تكون المشكلة الأكثر خطورة هي القصور في الطريقة التي يصل بها إلى الاستنتاجات. مع ازدياد استخدام الذكاء الاصطناعي التوليدي كمساعد بدلاً من مجرد أداة، تظهر دراستان جديدتان أن منطق التفكير في النماذج يمكن أن يكون له عواقب خطيرة في المجالات الحرجة مثل الرعاية الصحية والقانون والتعليم.

في السنوات الأخيرة، ارتفعت دقة نماذج اللغة الكبيرة (LLMs) في الإجابة على الأسئلة حول مواضيع مختلفة بشكل كبير. وقد أثار هذا الاهتمام المتزايد بإمكانيات التكنولوجيا في مجالات مثل التشخيص الطبي وتقديم الدعم العلاجي أو العمل كمعلم افتراضي. تشير التقارير القصصية إلى أن المستخدمين يستخدمون بالفعل على نطاق واسع نماذج LLM الجاهزة للاستخدام لمثل هذه المهام، مع نتائج مختلطة. في الآونة الأخيرة، ألغت امرأة في كاليفورنيا إخطار الإخلاء باستخدام الذكاء الاصطناعي للحصول على استشارة قانونية، لكن رجلاً يبلغ من العمر 60 عاماً عانى من التسمم بالبروميد بعد اللجوء إلى هذه الأدوات للحصول على نصيحة طبية. يحذر المعالجون من أن استخدام الذكاء الاصطناعي لدعم الصحة النفسية غالباً ما يفاقم أعراض المرضى.

تشير الأبحاث الجديدة إلى أن جزءاً من المشكلة يكمن في أن هذه النماذج تفكر بطريقة أساسية مختلفة عن البشر، مما قد يجعلها تنهار عند حل المشاكل الأكثر تعقيداً. وجدت مقالة حديثة في Nature Machine Intelligence أن النماذج تواجه صعوبة في التمييز بين معتقدات المستخدم والحقائق، وتنص مقالة غير منشورة على arXiv على أن الأنظمة متعددة الوكلاء المصممة لتقديم استشارات طبية عرضة لعيوب في التفكير قد تعطل التشخيص.

يقول جيمس زو، أستاذ مساعد في علم البيانات الطبية الحيوية بكلية الطب بجامعة ستانفورد والمؤلف الأول للمقالة في Nature Machine Intelligence: "مع الانتقال من الذكاء الاصطناعي كمجرد أداة إلى الذكاء الاصطناعي كوكيل، يصبح 'الكيفية' أكثر أهمية بشكل متزايد. بمجرد استخدامك لها كبديل لمستشار أو معلم أو طبيب أو حتى صديق، فإن الإجابة النهائية ليست الشيء الوحيد الذي يهم. العملية برمتها والمحادثة برمتها مهمة حقاً."

يمكن أن تكون المشاكل في كيفية اتخاذ النماذج للقرارات مشكلة خاصة في المؤسسات الطبية. يوجد اهتمام متزايد باستخدام الأنظمة متعددة الوكلاء، حيث يشارك عدة وكلاء ذكاء اصطناعي في نقاش تعاوني لحل مشكلة، على أمل تكرار فرق الأطباء متعددة التخصصات الذين يشخصون الحالات الطبية المعقدة، كما يقول لي كوان يو، أستاذ مساعد في الذكاء الاصطناعي الطبي بجامعة هونج كونج. لذلك، قرر هو وزملاؤه التحقيق في كيفية تفكير هذه الأنظمة عند حل المشاكل من خلال اختبار ستة منها على 3600 حالة حقيقية من ستة مجموعات بيانات طبية.

يقول كلا مجموعتي الباحثين إن العيوب في تفكير النماذج يمكن تتبعها إلى الطريقة التي يتم بها تدريبها. يتم تدريب نماذج LLM الحديثة على التفكير عند حل المهام المعقدة متعددة الخطوات باستخدام التعلم المعزز، حيث تتلقى النموذج مكافأة للمسارات المنطقية التي تؤدي إلى الاستنتاج الصحيح. ومع ذلك، يتم تدريبها عادة على مهام ذات حلول محددة، مثل البرمجة والرياضيات، وهي غير مناسبة للمهام الأكثر انفتاحاً، مثل تحديد المعتقدات البشرية الذاتية، كما يقول زو.

يعني التركيز على مكافأة النتائج الصحيحة أيضاً أن التدريب لا يحسن عمليات التفكير الجيد، كما يقول تشو. ونادراً ما تتضمن مجموعات البيانات النقاشات والحوارات اللازمة للأنظمة الطبية متعددة الوكلاء الفعالة، الأمر الذي قد يكون، في رأيه، السبب في أن الوكلاء يمسكون برأيهم بغض النظر عما إذا كانوا محقين أم لا.

تحسين طرق التدريب، لا سيما من خلال إيلاء مزيد من الاهتمام لعمليات التفكير بدلاً من النتائج النهائية فقط، هو خطوة رئيسية. يمكن لتطوير مجموعات البيانات التي تتضمن أمثلة على التعاون الفعال والنقاش أن تساعد النماذج أيضاً على تطوير فهم أكثر دقة للمشاكل المعقدة. عندها فقط يمكننا الاعتماد بأمان على الذكاء الاصطناعي في المجالات الحرجة مثل الرعاية الصحية والتعليم.