باحثون يقترحون Anti-Persistence: ذاكرة وكلاء LLM دون قواعد مخزّنة

يستطيع وكلاء LLM التعلّم دون إعادة تدريب: فهم يسجّلون تشغيلاتهم في ذاكرة خارجية ويستعينون بها في المهام اللاحقة. لكن كلما راكمت هذه الذاكرة مزيدًا من القواعد الجاهزة والملخصات والمهارات، ارتفع خطر أن يبدأ خطأ واحد في إعادة إنتاج نفسه ذاتيًا. وقد أطلق مؤلفو ورقة حديثة في Hugging Face Daily Papers على هذه الظاهرة اسم error reproduction. وردًّا على ذلك اقترحوا تصميم الذاكرة Anti-Persistence: تتراكم المسارات ونتائجها، بينما تُركَّب التوصيات الخاصة بكل مهمة من جديد وتُهمَل بعد تنفيذها. وبحسب المؤلفين، يحقق هذا المخطط، على عدة اختبارات معيارية ونماذج أساسية (backbones)، أعلى نجاح إجمالي على المهام المحجوزة للاختبار وأقل متوسط كلفة من حيث استدعاءات LLM بين أنواع الذاكرة المقارنة.

كيف يعيد الخطأ إنتاج نفسه

عند تصميم ذاكرة الوكيل، يتمثل الخيار المعتاد في أحد أمرين: تخزين المسارات الخام مع نتائجها فقط، أو إضافة تجريدات مستخلصة إليها. وتبدو التجريدات مريحة لأن الوكيل لا يحتاج إلى استخراج الاستراتيجية من سجلات طويلة في كل مرة. أما الثمن فهو أن القاعدة الخاطئة تصل إلى السياق عبر البحث في الذاكرة وتؤثر في القرارات.

ثم يبدأ الجزء الأسوأ. فالقرارات المتخذة تحت تأثير قاعدة سيئة تُنتج مسارات جديدة. ومن هذه المسارات يستخلص الوكيل تجريدات جديدة تكرر الخطأ الأصلي. وحذف القاعدة الأولى أو تصحيحها لا يحل المشكلة: فالخطأ مسجَّل أصلًا في المسارات المتراكمة، وسيظهر مجددًا في دورة «تجريد — تنفيذ — إعادة تجريد». ويصف المؤلفون ذلك بأنه إطالة لعمر الخطأ إلى ما بعد إعادة الاستخدام المباشر للمعرفة المعيبة.

ماذا يفعل Anti-Persistence

تقوم الفكرة على الفصل بين أمرين: تراكم الخبرة، والحفظ الدائم للاستنتاجات المستخلصة منها. تخزّن الذاكرة المسارات ونتائجها. أما الإرشاد الخاص بالمهمة فيُركَّب لحظة الطلب. ويراجع محدِّد تكيّفي (adaptive selector) النتائج السابقة ليقرر هل يلزم توليد توجيه أصلًا وبأي صيغة. وبعد تنفيذ المهمة يُحذف التوجيه، ولا يمكن إعادة استخدامه ككائن مخزَّن.

ويذكر المؤلفون بصراحة وجود خطر متبقٍّ: فالتغذية الراجعة غير المباشرة تبقى، لأن التوجيه أثّر في المسار، والمسار يبقى في الذاكرة. فالمخطط يُضعف الحلقة لكنه لا يُلغيها تمامًا.

ما ورد في الملخص (abstract) من ادعاءات:

• ما يُخزَّن: المسارات ونتائج التنفيذ؛ أما القواعد والملخصات والمهارات المستخلصة فلا تُخزَّن.
• تُركَّب التوصيات عند الطلب، بحسب المهمة المحددة.
• يعتمد المحدِّد التكيّفي على النتائج السابقة ويختار هل يلزم توجيه وأي نوع منه.
• النتيجة: أعلى نجاح إجمالي على المهام المحجوزة للاختبار بين تصاميم الذاكرة المقارنة.
• الكلفة: أقل متوسط كلفة من حيث استدعاءات LLM.
• أُجري التحقق على عدة اختبارات معيارية ونماذج أساسية (backbones) مختلفة.

لا يتضمن الملخص نسبًا مئوية محددة ولا أسماء الاختبارات المعيارية، ولذلك لا يمكن تقدير حجم المكسب بعد. ولا بد من الرجوع إلى النص الكامل للورقة وجداولها.

ما الذي ينبغي فحصه في وكيلك

إذا كنت تبني وكيلًا بذاكرة ذاتية التعلم، فإن الورقة تقدم عدة إرشادات عملية.

أولًا: افصل في البنية المعمارية بين «سجل الخبرة» و«طبقة الاستنتاجات». يمكن تكديس السجل دون حدود، أما طبقة الاستنتاجات فالأَولى اعتبارها ذاكرة تخزين مؤقت (cache) يمكن تفريغها، لا مصدرًا للحقيقة.

ثانيًا: عند تصحيح تدهور أداء الوكيل، لا تفحص القواعد نفسها فقط. فإذا لم تُجدِ القاعدة المصحَّحة نفعًا وعادت الأخطاء، فقد يكون السبب المسارات التي نشأت تحت تأثيرها.

ثالثًا: راقب الكلفة. قد يبدو بالحدس أن تركيب التوجيهات أثناء التشغيل أغلى من القواعد الجاهزة. لكن المؤلفين يؤكدون العكس: فتصميمهم كان الأرخص من حيث عدد استدعاءات LLM، ويرجَّح أن السبب أن المحدِّد يتخطى عمليات التركيب غير الضرورية، وأن الذاكرة لا تتضخم بالتجريدات. ومن المفيد التحقق من هذه الفرضية على حمل العمل الخاص بك.

وأخيرًا، تنطبق النتيجة على اختبارات معيارية بعينها. وقبل إعادة كتابة الذاكرة في بيئة الإنتاج، أجرِ على مهامك مقارنة A/B بين Anti-Persistence وتخزين المهارات، وراقب كيف يتغير النجاح على المهام المحجوزة للاختبار مع مرور الوقت.