Self-Reflective Program Search: حسّنت Apple أداء نماذج LLM مع السياقات الطويلة

نشرت فريق بحوث الذكاء الاصطناعي في Apple دراسة تفحص طريقة Self-Reflective Program Search لنماذج اللغة التي تعمل مع السياقات الطويلة. تُظهر الدراسة أن التحليل الحلزوني للسياق إلى استعلامات فرعية قابلة للإدارة يمكن أن يحسّن بشكل كبير من كفاءة هذا الجانب الحرج من أداء نماذج اللغة الكبيرة الحديثة.

لماذا تظل السياقات الطويلة مشكلة

أصبحت النوافذ السياقية الموسعة ميزة معيارية من نماذج اللغة الحديثة: Claude و GPT و Gemini تعد بمعالجة من 100K إلى 1M رمز. لكن في الممارسة العملية، حتى مع هذه النوافذ الضخمة، غالباً ما تكافح النماذج مع المهمة. فهي تفقد المعلومات من بداية أو نهاية السياق، وتربط التفاصيل بشكل غير صحيح، وتحذف الحقائق المهمة أثناء التفكير.

المشكلة معروفة لدى الباحثين والمستخدمين: يمكن للنموذج أن يرى كل النص، لكنه يفشل في استخراج المعلومات الضرورية بموثوقية واستخدامها في ردوده. هذا يخلق ما يسمى بتأثير "الضياع في المنتصف" (lost in the middle) وتحفات أخرى تظهر بشكل خاص على السياقات الطويلة حقاً.

النماذج الحلزونية للغة: تفكيك التعقيد

تقترح Apple حلاً مبنياً على فكرة النماذج الحلزونية للغة (RLMs): بدلاً من معالجة السياق الطويل بالكامل، يقوم النموذج بتقسيم المهمة حلزونياً إلى سلسلة من الاستعلامات الفرعية. هذا يشبه برنامجاً مؤتمتاً للتفاعل مع السياق — النموذج نفسه يقرر الاستعلامات الفرعية المطلوبة، بأي ترتيب يطرحها، وكيفية تجميع النتائج في إجابة نهائية.

الفكرة الأساسية وراء Self-Reflective Program Search هي أن هناك طرقاً كثيرة لتفكيك مهمة معقدة واحدة إلى استعلامات فرعية، والنتائج تختلف بشكل كبير. تُظهر أبحاث Apple أن بعض استراتيجيات التفكيك تعمل أفضل بكثير من غيرها. خوارزمية البحث متأملة ذاتياً — فهي تحلل نتائج الاستعلامات الفرعية السابقة وتعدل استراتيجيتها أثناء التنفيذ.

لماذا يعمل البحث الحلزوني بشكل أفضل

يحل هذا النهج عدة مشاكل في نفس الوقت:

• يقلل العبء المعرفي — يعمل النموذج مع أجزاء أصغر من المعلومات بدلاً من معالجة 100K رمز دفعة واحدة
• يحافظ على المعلومات — التتبع الصريح للاستعلامات الفرعية والنتائج يقلل من فقدان المعلومات الذي يحدث أثناء المعالجة المباشرة
• يسمح بتصحيح الحل — يساعد التأمل الذاتي النموذج على تصحيح الأخطاء وتحسين الإجابة بعد المسار الأول
• يحسّن عملية الاستدلال — لا يهدر النموذج الموارد على الحسابات غير الضرورية، بل يوجه الانتباه نحو أجزاء السياق ذات الصلة

تُظهر أبحاث Apple أن هذا النهج فعال بشكل خاص على السياقات الطويلة (100K+)، حيث تبدأ الطرق التقليدية بالفشل.

ما الذي يعنيه هذا

تقدم نتائج أبحاث Apple ML Research اتجاهاً واعداً لنسخ مستقبلية من نماذج اللغة. بدلاً من السباق نحو نوافذ سياق أكبر باستمرار، يمكن للمطورين الاستثمار في طرق أذكى للعمل مع السياقات الطويلة — والحصول على نتائج أفضل في العملية. قد يعني هذا أنه في 2026–2027 سنرى نماذج لغة كبيرة لا ترى المزيد من المعلومات فحسب، بل تعرف حقاً كيفية استخدامها. بالنسبة للمستخدمين، يعني هذا إجابات أكثر موثوقية على المهام التي تتطلب تحليل أحجام كبيرة من المعلومات: تلخيص المستندات الطويلة، والبحث في الأرشيفات، وتحليل الكود، والعمل مع الأوراق العلمية.