سبيربنك وفريق أندريه كورباتوف يطوران بنية لمواجهة هلوسات AI

كشف بنك سبير عن عمل على بحث بعنوان "نموذج الذكاء الاصطناعي لواقع الإنسان العقلي". يشارك في المشروع مختبر العلوم العصبية والسلوك البشري بقيادة أندريه كوربيتوف، والهدف يبدو طموحاً: منح وكلاء الذكاء الاصطناعي القدرة على مناقشة النفس البشرية دون هلوسات.

حول البحث

وفقاً للوصف المنشور، لا يتعلق الأمر بميزة محادثة جديدة، بل بمحاولة وصف الواقع العقلي البشري بطريقة مفهومة للآلة. يتحدث سبير عن نموذج يتمكن من خلاله أنظمة الذكاء الاصطناعي من العمل كخريطة داخلية للمفاهيم والروابط والحالات. هذا مهم بشكل خاص للمهام التي لا يكفي فيها اختيار إجابة معقولة إحصائياً: تحتاج إلى الحفاظ على السياق والمنطق والعلاقات السببية حول السلوك البشري والدافع والإدراك.

إن حقيقة أن المشروع يجري بواسطة مختبر عند تقاطع العلوم العصبية والبحث السلوكي والذكاء الاصطناعي يوضح اتجاه العمل. هنا يريدون ليس فقط تدريب الشبكة العصبية على مزيد من نصوص علم النفس، بل الاعتماد على بنية أكثر رسمية. بعبارة أخرى، المهمة ليست أن يتحدث النموذج بشكل جميل عن البشر، بل أن يختلق أقل وألا يحل محل الروابط الحقيقية بتفسيرات مريحة لكن كاذبة.

بالنسبة للمواضيع المتعلقة بالنفس، هذا حرج: الخطأ في الصيغة يصبح بسهولة خطأ في الاستنتاج.

كيف يريدون تقليل الأخطاء

التفصيل الرئيسي هو بنية الرسم البياني. عادة ما تعني هذه الطريقة نظاماً حيث يتم تمثيل المعرفة ليس كنص متصل، بل كعقد وروابط بينها. بالنسبة لوكلاء الذكاء الاصطناعي، يمكن أن يصبح هذا طريقة للتحقق من الإجابات ليس فقط من خلال احتمالية الكلمة التالية، بل أيضاً من خلال البنية الصريحة للمفاهيم. إذا كان النموذج يفكر في الخوف أو الدافع أو الاهتمام أو تشويهات الإدراك، فيمكنه الاعتماد على خريطة العلاقات بين هذه الكيانات، بدلاً من الارتباطات العشوائية من بيانات التدريب.

• تحديد المفاهيم وروابطها بشكل صريح
• التحقق من عدم تناقض الاستنتاج الجديد مع البنية المعروفة بالفعل
• تنسيق إجابات عدة وكلاء ذكاء اصطناعي مع بعضها
• تقليل خطر الخيال حيث تكون المنطق السببي مطلوبة وليس الخطابة

نقطة مهمة أخرى تتبع من صيغة سبير: البنية مصممة على وجه التحديد للتفاعل بين الوكلاء مع بعضهم البعض. هذا لم يعد محادثة واحدة، بل بيئة حيث يتبادل عدة نماذج أو وحدات الأحكام حول شخص ما. في هذا الوضع، تصبح مشكلة الهلوسات أكثر حدة: خطأ واحد يمكن أن يتضاعف بسرعة في السلسلة بأكملها. مخطط بياني ضروري كإطار مشترك يحافظ على النقاش ضمن منطق متسق.

حيث ستكون مفيدة

إذا نجح النهج، يمكن تطبيقه في أنظمة دعم القرار والمساعدات الرقمية والمنتجات التعليمية والخدمات التي تحلل سلوك المستخدم. هذا لا يتعلق بالضرورة بوضع التشخيصات. بكثير أقرب هو السيناريو التطبيقي حيث يساعد الذكاء الاصطناعي على تحليل التواصل والردود والأنماط الدافعية أو الأخطاء المعرفية، لكنه يفعل ذلك بحذر وتسلسل أكبر.

بالنسبة لسوق الشركات، هذا مثير للاهتمام بشكل خاص: تحتاج الشركات إلى وكلاء لا يعيدون سرد علم النفس الشهير فحسب، بل يعرفون كيفية التفكير ضمن نموذج معين وشرح مصدر الاستنتاج. في الوقت نفسه، علناً، يتم بحث هذا كما لو كان بحثاً. لم يكشف بنك سبير كيف سيتم تقييم جودة مثل هذا النظام، وما مجموعات البيانات أو أطر الخبراء المستخدمة وفي أي المنتجات ستظهر النتيجة.

هذا تحفظ مهم لأن محاربة الهلوسات هي واحدة من أصعب المهام في كل المكدس. أي بنية يمكن أن تحسن انسجام الإجابة، لكن هذا لا يضمن الحقيقة. لذلك، السؤال الرئيسي ليس فقط كيفية تمثيل المعرفة عن النفس، بل أيضاً كيفية التحقق من صحة هذه المعرفة وتحديثها وعدم نقل أخطاء الباحثين أنفسهم إلى النموذج.

ماذا يعني هذا

يظهر بنك سبير منعطفاً مثيراً للاهتمام: بدلاً من محادثة عامة أخرى، تستكشف الشركة منطقة أضيق لكن معقدة حيث تكون البنية والاتساق والتحكم في الأخطاء مهمة لأجهزة الذكاء الاصطناعي. إذا نجح النهج الرسومي، فقد يعطي السوق فئة جديدة من الوكلاء الذين يفكرون في البشر بعناية ملحوظة أكثر من نماذج اللغة الكبيرة العادية.