Apple وCMU تسرّعان وكلاء الذكاء الاصطناعي 10 أضعاف باستبدال الاختيار بالاستدلال

اقترح باحثون من Apple وCarnegie Mellon University طريقة لتسريع وكلاء LLM بنحو 10 أضعاف. فبدلًا من كتابة استدلال مطوّل قبل كل إجراء، يختار النموذج الخطوة التالية من مجموعة خيارات، كما في اختبار الاختيار من متعدد. نقل الخبر موقع Jiqizhixin الصيني. وقد أُخذ رقم «10 أضعاف» من عنوان المنشور: فالجزء المتاح من النص لا يتضمن اسم الطريقة ولا جداول الاختبارات المعيارية، ولذلك لا يمكن التحقق منه حتى الآن.

أين يضيع وقت الوكيل

يعمل الوكيل النموذجي وفق مخطط ReAct: ملاحظة، ثم فكرة، ثم إجراء. وقبل كل خطوة يولّد النموذج نصًّا حرًّا. فهو يحلّل الوضع الراهن، ويوازن بين الأدلة التي جمعها، ثم يقرر ما يفعله بعد ذلك. هذا هو جوهر هذا النهج، وهو ما يمنح الوكلاء مرونتهم. لكن لهذه المرونة ثمنًا.

تُولَّد الرموز (tokens) بالتتابع، واحدًا تلو الآخر. وإذا استغرق الاستدلال مئات الرموز بينما لا يتجاوز الإجراء نفسه نحو عشرة، فإن معظم الوقت والمال يذهب إلى «التفكير». وفي مهمة تتألف من عشرين إلى ثلاثين خطوة تتراكم هذه الخسائر، ويزداد زمن الاستجابة بما يقارب الخطّية مع عدد الخطوات.

ماذا تقترح Apple وCMU

الفكرة المستخلصة من العنوان: تحويل التوليد إلى مهمة اختيار. فالنموذج لا يؤلّف الاستدلال من الصفر، بل يتلقى خيارات ويحدد المناسب منها. ويتقلص الناتج من مئات الرموز إلى بضعة رموز. وهذا يفسّر مصدر ما قد يكون سببًا لهذا الحجم من التسارع. لكن هذا تفسيري الخاص لآلية العمل، فالتفاصيل غير معلنة في النص المتاح.

يُعرف من الجزء المنشور ما يلي:

• المؤلفون: باحثون من Apple وCarnegie Mellon University؛
• المشكلة: الاستدلال الحر قبل كل إجراء في ReAct يفرض عبئًا ملموسًا على الاستدلال (inference)؛
• الحل: استبدال التوليد الحر لـ«التفكير» بصيغة الاختيار من بين خيارات؛
• النتيجة المعلنة: تسريع استدلال الوكيل بنحو 10 أضعاف؛
• لم يُكشف عنه: اسم الطريقة، ومجموعة المهام، والنماذج، وأثرها في نسبة المهام المحلولة بنجاح.

والبند الأخير هو الأهم. فأي اختزال للاستدلال يخاطر بالإضرار بالجودة، خصوصًا في المهام الطويلة التي يجرّ فيها الخطأ المبكر السلسلة كلها.

ما الذي ينبغي التحقق منه أولًا

عند قراءة الورقة كاملة، يستحسن البحث عن إجابات لعدة أسئلة. من أين تأتي الخيارات؟ فإذا كان نموذج كبير هو من يولّد المرشحين أيضًا، فإن جزءًا من التوفير سينتقل ببساطة إلى مرحلة أخرى. وكيف تتصرف الطريقة في البيئات المفتوحة التي لا ينحصر فيها فضاء الإجراءات في قائمة قصيرة؟ ومع أي خطوط أساس جرت المقارنة: مع ReAct الكامل، أم مع chain-of-thought المختصر، أم مع مسرّعات أخرى مثل فك الترميز التخميني (speculative decoding) والتخزين المؤقت؟

وأمام الفرق التي تبني وكلاء فرصة مفيدة منذ الآن، وهي أن تحسب نسبة الرموز الناتجة التي يشغلها الاستدلال في سجلات تنفيذ وكلائها. فإذا تجاوزت النصف، فقد تمنح صيغة الاختيار، أو أي طريقة أخرى لاختزال «الفكرة»، مكسبًا ملحوظًا في زمن الاستجابة وتكلفة الاستدعاء. أما إذا كان الاستدلال قليلًا في هذه السجلات، فلا ينبغي توقّع أثر بحجم عشرة أضعاف.

والموضوع مفهوم بالنسبة إلى Apple: فخطوات الوكيل الرخيصة مهمة حيث تقلّ الموارد الحاسوبية. وهذا افتراضي الشخصي، ولا يوجد في النص ما يؤكده. أما الآن، فنحن أمام ادعاء بنتيجة قوية دون أدلة ظاهرة. ولن يمكن الحكم على جدّيته إلا بعد قراءة الورقة نفسها، وقبل كل شيء جداول الدقة فيها على الاختبارات المعيارية للوكلاء.