الوكيل يشطب بنفسه ردود الأدوات القديمة ويخفّض توكنات الإدخال إلى النصف

الوكيل الذي يتنقل بين الأدوات يراكم تاريخًا طويلًا بسرعة: سجلات، ومخرجات تفريغ، ونتائج أوامر، ومحتويات ملفات. وغالبًا ما يكون الجزء المفيد في كل رد من هذه الردود أصغر منه بعشر مرات، ومع ذلك يستمر الرد كاملًا في الانتقال مع كل طلب لاحق. يقترح مؤلفو ورقة preprint على arXiv أن يتولى النموذج نفسه عملية التنظيف. في الحالة البحثية، بلغ الموجّه النهائي بهذا النهج 231 951 توكن مقابل 912 492 عند حفظ التاريخ بالطريقة المعتادة. وانخفض إجمالي حجم الإدخال بنسبة 50%، وتراجع تقدير تكلفة API إلى $1,28–1,44 بدلًا من نحو $4,38.

كيف يعمل النسيان

الآلية بسيطة. يختار النموذج العامل نتائج استدعاءات الأدوات التي حصل عليها سابقًا، ويستبدل كلًّا منها بملاحظة قصيرة في موضعه الأصلي من الحوار. لا يختل ترتيب الرسائل ولا بنية التاريخ. أما النسخة الأصلية فلا تُحذف، بل تنتقل إلى أرشيف، ويمكن استرجاعها منه بأمر صريح إذا احتاج إليها الوكيل مجددًا.

يأتي النهج في صورة غلاف (harness) بلغة Python يمنح الوكيل إجراءين: الأرشفة الجماعية والاسترجاع. ولا حاجة إلى إعادة تدريب النموذج لهذه المهمة. كما توجد حماية: لا تنطبق هاتان العمليتان على تعليمات المستخدم ولا على رسائل المساعد. فالمسموح بنسيانه هو الملاحظات (النتائج المستلمة) فقط، لا ما طلبه الإنسان ولا ما قاله الوكيل عن نفسه.

ماذا أظهرت التجارب

الحالة الرئيسية بحثية: تصحيح أخطاء باستخدام OpenTelemetry، تليها مهمة تنفيذ غير مرتبطة بها. وهذا مسار مليء بالضجيج، إذ تلزم المخرجات الضخمة لخطوتين تقريبًا ثم تصبح عبئًا.

• الموجّه النهائي: 231 951 توكن مقابل 912 492 عند الاحتفاظ بالتاريخ كاملًا.
• إجمالي توكنات الإدخال: أقل بنسبة 50%.
• تقدير تكلفة API: $1,28–1,44 مقابل نحو $4,38.
• الاختبار السلوكي: اجتاز الخياران الاختبار الأساسي (oracle) المكوّن من حالتين.
• تقييم المتابعة (follow-up): لم يستوفِ أي من الخيارين متطلباته بالكامل.
• الكلفة: عدد طلبات أكبر ووقت تنفيذ أطول بنسبة 17%.

توفير التوكنات لا يعني توفيرًا في كل شيء. فالوكيل يصرف خطوات على عملية الانتقاء نفسها، ويظهر ذلك في الوقت.

أين لم تنجح الطريقة

يورد المؤلفون أمثلة مضادة بصراحة. ففي زوج المقارنة المتعلق بتطوير تطبيق، لم يتحقق توفير لا في السياق ولا في التكلفة. وأظهرت تجربة سابقة لمواصلة الجلسة جودة أقل بحسب التقييم اليدوي، رغم تقلص السياق. العينة صغيرة، والحالات استكشافية، ولا توجد هنا إحصاءات. والعمل لا يثبت أن الأسلوب يصلح في كل مكان. بل يُظهر أن المكسب يعتمد بقوة على طبيعة الحمل، ويعدّ المؤلفون هذا الاعتماد العامل المحوري في الإدارة القابلة للعكس للسياق.

ما الذي يمكن تجربته عمليًا

إذا كان لديك وكيل يعمل في جلسات طويلة لتصحيح الأخطاء أو تحليل السجلات أو البحث في نتائج كبيرة، فالفكرة تستحق التجربة. ابدأ بالملاحظات التي يسهل استرجاعها: مخرجات الاختبارات، والتتبعات (traces)، ومخرجات التفريغ. واترك التعليمات وردود المساعد دون مساس، كما في المخطط الأصلي. لا تقِس التوكنات وحدها، بل قِس أيضًا عدد الطلبات والوقت وجودة النتيجة على مهامك، لأن التوفير قد يكون ظاهريًا. وفي المهام التي يُعاد فيها استدعاء كل مقطع من الشيفرة أو الإعدادات مرارًا، قد لا تحقق الأرشفة أي فائدة. والقابلية للعكس هنا شبكة أمان وليست ضمانًا: إذا نسي الوكيل ما لا ينبغي نسيانه، فعليه أن ينتبه إلى ذلك ويطلب استرجاعه.