SOUL: باحثون يعلّمون روبوتات VLA «نسيان» هلوسات الحالة

اقترح باحثون SOUL (Sparse feature pOlicy UnLearning)، وهو أسلوب يعالج عيباً محدداً في نماذج Vision-Language-Action، هو هلوسة الحالة. يُقصد بها الموقف الذي يواصل فيه الروبوت التصرف كما لو أن الحالة المطلوبة بين «الروبوت والجسم» قد تحققت بالفعل، بينما هي غير متحققة في الواقع. أُدرجت الورقة ضمن مختارات Hugging Face Daily Papers. لا يذكر المؤلفون في الملخص نسباً مئوية محددة. ويُعلَن أن عدد هذه الأعطال ينخفض بشكل ملحوظ، وأن نسبة المهام المنجزة بنجاح ترتفع، وأن مهارات المناولة الموجودة لا تكاد تتضرر.

أين تتعثر نماذج VLA

تُبنى نماذج VLA فوق نماذج vision-language مدرَّبة مسبقاً، ولذلك تعمّم جيداً على مشاهد وأجسام جديدة. أما في الظروف الواقعية، فيصطدم نشرها بسلوك غير موثوق يتكرر. وقد أفرد المؤلفون إحدى أكثر صور هذا السلوك عناداً بالدراسة. مثال توضيحي: فشلت عملية الإمساك، لكن السياسة تنفّذ الخطوة التالية من السيناريو كأن الجسم في الذراع. الخطأ ليس عشوائياً، بل يتكرر مرة بعد أخرى، ولذلك يمكن دراسته بوصفه نمطاً منتظماً.

أسفر التشخيص عن نتيجتين. الأولى: تتزامن هلوسة الحالة مع ضعف الانتباه إلى المناطق البصرية المهمة للمهمة. أي أن النموذج يكفّ عن النظر إلى الموضع الذي تتحدد فيه نتيجة الفعل. والثانية جاءت عبر sparse autoencoders (SAE)، وهي تحلّل التنشيطات الداخلية إلى ميزات متناثرة يسهل تفسيرها أكثر. ومن بين هذه الميزات وُجدت ميزات تنشط تحديداً في لحظات هذه الأعطال.

كيف يعمل SOUL

إذا كان للخطأ توقيع داخلي يمكن التعرف عليه، فيمكن اتخاذه هدفاً للتعديل. يُبنى SOUL على unlearning على مستوى السياسة. فالميزات المستخلصة من الحلقات التي حدثت فيها الهلوسة تصبح هدفاً للنسيان، أما الميزات المستخلصة من الحلقات الناجحة فتؤدي دور المرساة التي يجب الحفاظ عليها. والمجموعة الثانية لا تقل أهمية عن الأولى، فبدونها يسهل أن يُزال مع العيب سلوك مفيد.

ما هو معروف من وصف العمل:

• الموضوع: سياسات المناولة المبنية على VLA.
• التشخيص: ضعف الانتباه إلى المناطق المهمة في الإطار، إضافة إلى ميزات متناثرة من SAE.
• أهداف النسيان: الميزات المرتبطة بهلوسة الحالة.
• أهداف الحفظ: ميزات السلوك الناجح.
• التحقق: عدة معماريات VLA، في المحاكاة وفي بيئات واقعية.
• النتيجة المعلنة: أعطال هلوسة أقل، ونسبة أعلى من المهام الناجحة، ودون فقدان كبير للمهارات الأصلية.
• ما هو غير موجود في الملخص: القيم العددية، وقائمة المهام، وتكلفة الإجراء.

يكمن الاهتمام هنا في تغيّر دور قابلية التفسير. فعادةً تُستخدم SAE للنظر داخل النموذج وشرح ما يجري فيه. أما SOUL فيستخدمها أداةً للتصحيح: تصبح الميزات المكتشفة رافعة للتعديل، لا مجرد ملاحظة. وبالنسبة إلى الروبوتات، هذا بديل لافت عن الطريق المعتاد، حيث تُعالَج الأعطال بإعادة التدريب على بيانات جديدة مع الأمل في ألا تظهر آثار جانبية.

والقيود واضحة أيضاً. يعتمد الأسلوب على جودة التحليل المتناثر: فإذا كانت الميزة تصف سياقاً مرتبطاً بالهلوسة لا الهلوسة نفسها، فسيطال النسيان ما لا يجب أن يطاله. كما يتطلب الأسلوب حلقات موسومة للأعطال والنجاحات، أي أن على الفريق أن يتعلم أولاً التمييز بين الاثنين. وما دام النص الكامل بجداوله غير متاح، فمن المبكر الحكم على حجم التحسن.

ما الذي ينبغي أن تتحقق منه الفرق العاملة مع VLA

يمكن استخلاص استنتاجات عملية منذ الآن. إذا كنتم تشغّلون سياسة VLA، فابدؤوا بتسجيل الانتباه، ووسِموا الحلقات التي «يواصل فيها الروبوت كأن شيئاً لم يحدث» بعد الفشل. ستحتاجون إلى مجموعة البيانات هذه مع أي طريقة علاج، وليس مع SOUL وحده. وعند اختبار أي تعديل، احسبوا بشكل منفصل نسبة الأعطال التي جرى إصلاحها والتراجع في المهارات الأساسية، فالادعاء بالحفاظ عليها لا يُتحقق منه إلا على مهام الفريق نفسه. وأخيراً، انظروا إلى النتيجة في بيئات واقعية لا في المحاكاة فقط، لأن هذا النوع من الأخطاء هو الأعلى كلفة هناك. ولتقييم نضج الأسلوب، يجدر انتظار النص الكامل للورقة والشيفرة والأرقام الخاصة بكل معمارية.