AlphaBet يعلّم وكيل LLM التنبؤ بالأحداث: تحسّن Brier بنسبة 14,4%

أصدر باحثون من فريق Liqin Ye (يشير البحث إلى Georgia Institute of Technology) إطار AlphaBet، وهو إطار للتعلم المعزز الوكيلي يحوّل النموذج اللغوي إلى متنبئ بالأحداث الحقيقية. وبعد التدريب خفّض النموذج الأساسي GLM-4.5-Air قيمة Brier score على اختبار Forecast-Dojo من 0,731 إلى 0,626، وعلى FutureX من 0,612 إلى 0,528. وبالأرقام النسبية يبلغ التحسن 14,4% و13,7% على التوالي. انخفاض Brier يعني أن الاحتمالات تتطابق بصورة أفضل مع النتائج الفعلية. والشيفرة والنماذج والبيانات متاحة للجميع.

لماذا لا يصح تدريب التنبؤ على مجموعة جاهزة من الحقائق

يتألف التنبؤ بحدث لم يقع بعد من مهمتين: العثور على الأدلة ذات الصلة، وتقدير مدى دعمها لكل نتيجة محتملة. وتبدأ كثير من مخططات تدريب LLM على التنبؤ، بحسب النتيجة، بمواد جُمعت مسبقًا لتاريخ تنبؤ واحد. وبذلك يبقى البحث عن الأدلة خارج حلقة التدريب: يتعلم النموذج وزن ما قُدِّم له، لكنه لا يتعلم الحصول على ما يحتاجه.

يدمج AlphaBet البحث مباشرة في السياسة (policy). فنموذج واحد يبحث عن المعلومات ويستدل ويُصدر الاحتمالات عند عدة تواريخ قبل حسم الحدث. ويُقيَّم كل تنبؤ مؤرَّخ وفق قاعدة تسجيل صارمة (proper scoring rule) بالاستناد إلى النتيجة النهائية. وهكذا يصبح سؤال واحد جرى حسمه مصدرًا للإشارة التدريبية لعدة حالات معلوماتية في وقت واحد: قبل الحدث بشهر، وبأسبوع، وبيوم.

فجوتان في خطأ التنبؤ

يحلل المؤلفون «أسف» (regret) المتنبئ إلى مكوّنين:

• فجوة اكتساب الأدلة: لم يعثر النموذج على البيانات اللازمة أو لم يطلبها؛
• فجوة الإبلاغ عن الاحتمالات: عُثر على البيانات، لكن الرقم الناتج معايَر بصورة سيئة.

وتُظهر تجارب الاستئصال (ablations) المضبوطة أن المكسب يأتي من التدريب على عدة تواريخ، وأنه يتكوّن من تحسينات في الجزأين معًا. أي أن RL يعلّم النموذج أن يبحث بصورة أفضل، وأن يحوّل ما وجده إلى نسب مئوية بدقة أعلى.

مأزق التطبيع في GRPO

تتعلق نتيجة منفصلة بخوارزمية Group Relative Policy Optimization. فالتنفيذ القياسي يطبّع الأفضلية (advantage) داخل مجموعة العيّنات بقسمتها على الانحراف المعياري للمكافأة. ويبيّن المؤلفون أنه في قواعد التسجيل الصارمة متعددة الفئات قد يشوّه هذا التطبيع التوزيع المستهدف الذي ينبغي للنموذج أن يعيد إنتاجه عند الإبلاغ عن الاحتمالات.

وتؤكد التجارب ذلك. فالتطبيع بالانحراف المعياري (std) يضعف الجودة وفق قاعدة التسجيل الصارمة، بينما لا تتغير تقريبًا دقة تخمين النتيجة الأرجح. يواصل النموذج تسمية المرشح الصحيح الأوفر حظًا، لكنه يوزّع النسب المئوية بصورة أسوأ. وفي المهام التي تهم فيها المعايرة لا مجرد تخمين «نعم/لا»، يمثل هذا تحفظًا جوهريًا على الوصفة المعتادة.

أبرز بيانات العمل

• الإطار: AlphaBet، تعلّم معزز وكيلي بسياسة واحدة للبحث والاستدلال والإبلاغ الاحتمالي.
• النموذج الأساسي: GLM-4.5-Air.
• Forecast-Dojo: Brier 0,731 → 0,626، بتحسّن 14,4%.
• FutureX: Brier 0,612 → 0,528، بتحسّن 13,7%.
• الأسلوب الرئيسي: التدريب على عدة تواريخ قبل حسم الحدث، ويُقيَّم كل منها بقاعدة تسجيل صارمة.
• الإطار النظري: تحليل الأسف إلى فجوة الأدلة وفجوة الاحتمالات.
• نتيجة تخص GRPO: التطبيع بالانحراف المعياري يضعف التسجيل الصارم ولا يؤثر تقريبًا في top-outcome accuracy.
• التوافر: الشيفرة على GitHub (AlphaBet-Agent/AlphaBet)، والنماذج والبيانات في المجموعة liqinye/alphabet على Hugging Face، وموقع المشروع alphabet-agent.github.io.

مؤلفو العمل: Liqin Ye وRongzhi Zhang وXin Liu وZheng Li وYuan He وQingyu Yin وPriyanka Nigam وChao Zhang.

ما الذي ينبغي للممارسين فعله بهذه النتائج

على الفرق التي تبني وكلاء للتحليل أو المخاطر أو توقعات السوق أن تعيد النظر في المقياس. فإذا كنتم تقيّسون نسبة الإجابات الصحيحة فقط، فلن تروا المعايرة، وهي التي تحدد قيمة التنبؤ عند اتخاذ القرارات. أما Brier أو أي قاعدة تسجيل صارمة أخرى فيكشف فرقًا تخفيه accuracy.

الاستنتاج الثاني يخص التدريب. فإذا كنتم تدرّبون وكيلًا بـ GRPO على مهام ذات مخرجات احتمالية، فتحققوا من أثر التطبيع بالانحراف المعياري في المعايرة، وقارنوا بالصيغ التي لا تستخدمه. والاستنتاج الثالث: حسم الحدث الواحد يوفر عدة أمثلة تدريبية في تواريخ مختلفة. وهذه طريقة منخفضة التكلفة للحصول على إشارة أكبر من مجموعة محدودة من الأسئلة المحسومة.

تتيح الأوزان والبيانات المفتوحة إعادة إنتاج النتيجة ومقارنتها بأعمال مجاورة في الموضوع، مثل Forecast-Dojo ببيئاته القابلة لإعادة الإنتاج لتدريب المتنبئين، والأبحاث حول التدريب المشترك للوكلاء اللغويين على الفعل والتنبؤ. أما الآن فقد جرى الحصول على الأرقام على نموذج أساسي واحد وعلى اختبارين فقط، ولذلك يبقى انتقال النتائج إلى نماذج LLM ومجالات أخرى مسألة تحتاج إلى تحقق مستقل.