بيركلي تصف الاستدلال المتوازي التكيّفي: النموذج يقرر بنفسه متى يتفرع

اصطدمت نماذج الاستدلال بحسبة بسيطة: كلما طال تفكيرها ارتفعت كلفة تشغيلها وتباطأ عملها. وأصدر الباحثان ستيفن شي وتوني ليان من Berkeley AI Research مراجعة عن الاستدلال المتوازي التكيّفي (Adaptive Parallel Reasoning, APR). ويجادلان فيها بأن قرار تفرّع التفكير ينبغي أن يتخذه النموذج نفسه، لا منظومة خارجية من القواعد الإرشادية. وتوني ليان، أحد المؤلفين، شارك في الإشراف على ThreadWeaver، وهو أحد الأساليب التي تتناولها المراجعة، وقد أفصح عن ذلك صراحةً في النص.

لماذا أصبح Chain-of-Thought الخطي عنق زجاجة

لا يقوم التقدم في السنوات الأخيرة على نمو البيانات والمعاملات فحسب، بل على توسيع الحوسبة في مرحلة الاستدلال (inference) أيضًا. والنماذج التي تُخرج خطوات وسيطة، وتتراجع، وتجرّب فرضيات متعددة، تهيمن على الرياضيات والبرمجة واختبارات الوكلاء. وللأمر ثمن مزدوج.

أولًا، السياق. فتراكم الفروع الفاشلة يشتّت انتباه النموذج، فيصعب عليه التمييز بين المفيد والمشتّت، وتتراجع الجودة. ويُسمّى هذا الأثر context rot. ثانيًا، زمن الاستجابة. فهو ينمو طرديًا مع طول الاستدلال. وفي المسائل التي تتطلب تخطيطًا بملايين الرموز، ينتظر المستخدمون عشرات الدقائق، وأحيانًا ساعات، بحسب إحالة المؤلفين إلى عمل Qu et al.

يعالج التوازي المشكلتين معًا: فالمسارات المستقلة لا تحمل سياق غيرها، وتُنفَّذ في آن واحد. لكن معظم المخططات القائمة تفرض البنية على النموذج من الخارج.

فهرس المقاربات: من التصويت إلى KV-cache مشتركة

تقسّم المراجعة هذا المجال إلى ثلاث مجموعات.

التفريع والدمج البسيط (fork-and-join):

• Self-consistency / Majority Voting (Wang et al., 2023): نأخذ عدة سلاسل كاملة بصورة مستقلة ونختار الإجابة الأكثر تكرارًا. • Best-of-N (Stiennon et al., 2022): الفكرة نفسها، لكن الفائز يختاره مُتحقِّق مُدرَّب. • العيب المشترك: الفروع لا تعلم بوجود بعضها، والحسابات تتكرر.

البحث البنيوي القائم على القواعد الإرشادية:

• Tree of Thoughts (Yao et al., 2023): بحث BFS/DFS عبر «الأفكار» مع تقليم يعتمد على تقييم LLM. • Graph of Thoughts (Besta et al., 2024) وSkeleton of Thoughts (Ning et al., 2024): مخططات تفكيك قريبة منه. • Monte-Carlo Tree Search (Xie et al., 2024; Zhang et al., 2024): تقييم العقد بتشغيلات عشوائية، وموازنة بين الاستكشاف والاستغلال على نمط UCB. • العيب: يجب أن نعرف مسبقًا كيف نفكّك المسألة.

أساليب جديدة داخل النموذج:

• ParaThinker (Wen et al., 2025): مرحلتان ثابتتان، هما توليد المسارات بالتوازي ثم التركيب. ويستخدم رموز تحكم قابلة للتدريب <think_i>، وتضمينات موضعية لكل فكرة، وقناع انتباه ثنائي المرحلة. • GroupThink (Hsu et al., 2025): LLM واحد يقود عدة مسارات مترابطة، ترى كل منها التقدم الجزئي للأخرى على مستوى الرموز وتتكيّف معه أثناء التوليد نفسه. • Hogwild! Inference (Rodionov et al., 2025): تكتب العمليات العاملة (workers) في KV-cache مشتركة، ويتيح RoPE ضمّ كتل الذاكرة المؤقتة بترتيب مختلف دون إعادة حساب. ولا يوجد بروتوكول تنسيق صريح.

نقطة الضعف المشتركة في المجموعات الثلاث أن قرار «هل نوازي أصلًا» اتُّخذ نيابةً عن النموذج. ويضرب المؤلفون مثالًا: بنية واحدة تُطبَّق على سؤال «كم يساوي 25+42؟» وعلى مسألة أصغر منطقة مستوية يمكن فيها تدوير قطعة مستقيمة طولها وحدة واحدة بزاوية 180°. في الحالة الأولى تهدر الحوسبة بلا طائل، وفي الثانية ربما تختار تفكيكًا غير مناسب.

ما الذي تغيّره القدرة على التكيّف

يعني التكيّف في APR توزيعًا ديناميكيًا للحوسبة بين العمليات المتوازية والمتسلسلة أثناء الاستدلال نفسه. وقدّم هذا النموذج Pan et al. في ورقة Learning Adaptive Parallel Reasoning with Language Models (2025). ويستخدم مؤلفا المراجعة مصطلح «طريقة APR» للدلالة على تنفيذها المحدد تحديدًا.

عمليًا، يولّد النموذج رموزًا خاصة تتحكم في الانتقال بين الوضعين. وفي مسار ThreadWeaver الذي تعرضه المراجعة، تظهر داخل كتلة <Parallel> خطتان ومساران للحل، ثم تلتقي المسارات عند إجابة واحدة موضوعة في إطار.

يذكر المؤلفون ثلاث مزايا:

• خلافًا لـ Tree of Thoughts، لا حاجة إلى قواعد إرشادية خاصة بالمجال. فالتعلم بالتعزيز يمنح استراتيجيات تفكيك عامة. وتكتشف النماذج بنفسها أنماطًا مثل تشغيل الخطوة التالية بالتوازي مع التحقق الذاتي من السابقة، أو تأمين النهج الرئيسي بنهج احتياطي. • خلافًا لـ Best-of-N، لا يوجد تكرار. فالنموذج يكوّن مسبقًا مجموعة مسائل فرعية غير متداخلة، ثم يوزعها على المسارات. • خلافًا للمخططات غير التكيّفية، يمكن للنموذج ألا يتفرع إطلاقًا إذا كانت كلفة التوازي الإضافية تفوق فائدته.

ما الذي ينبغي أن يتحقق منه المهندس

لمن يبني منظومة استدلال، تنتج عن المراجعة ثلاثة أسئلة عملية. الأول: يجب قياس زمن الاستجابة بحسب الزمن الفعلي (wall-clock) وإجمالي الرموز كلًّا على حدة. فالمسارات المتوازية تقلّص الانتظار، لكن إذا كان التفكيك سيئًا فقد لا تنخفض الكلفة الإجمالية. وهذا استنتاج من منطق المقاربات، وليس رقمًا وارد في المراجعة. الثاني: عزل المسارات مقابل KV-cache مشتركة. فـ Hogwild! يوفّر إعادة الحساب والذاكرة، بينما يمنح ParaThinker وأسلوب ThreadWeaver فصلًا أنظف بين السياقات. الثالث: يظهر للنموذج التكيّفي مقياس جديد، هو نسبة المسائل التي امتنع فيها عن التوازي عن صواب. وفي الطلبات البسيطة يميّز هذا الامتناع تحديدًا بين APR وBest-of-N ذي N الثابت.

أما الفرق التي تدفع اليوم ثمن سلاسل الاستدلال الطويلة في سيناريوهات الوكلاء والبرمجة، فيبدو APR بالنسبة إليها الخطوة التالية بعد زيادة طول التوليد. ومع المراجعة، صاغت BAIR أيضًا المصطلحات التي يمكن الآن مقارنة هذه الأعمال على أساسها.