ThinkJev يجعل الذكاء الاصطناعي يفكّر في الأسئلة الصعبة فقط: استهلاك التوكنات أقل بنسبة 28%

عندما يُدمَج نموذج لغوي في خدمة ما، فإن من يقرأ إجابته غالبًا ليس إنسانًا بل برنامج. مثلًا: إلى أي طابور يُوجَّه الطلب، وهل تخالف الرسالة القواعد، وهل يطابق السجلّ المستخرَج شرطًا معيّنًا. يسمّي باحثون من شركة Fujian Bosssoft الصينية هذا النوع «القرار المنمَّط»: الإجابة حرف واحد من مجموعة مغلقة من الخيارات، ولكل خيار احتمال يمكن الاعتماد عليه في الشيفرة. ويحدّد نظامهم ThinkJev متى يكفي أن يجيب هذا النموذج فورًا ومتى يحتاج إلى التفكير. الرقم الرئيسي: في المهام الصعبة يتوقف الاستدلال مبكرًا ويستهلك توكنات أقل بنسبة 28%، بينما تنخفض الدقة من 82.7% إلى 81.6%.

سرعتان في نموذج واحد

المشكلة مألوفة لكل من بنى أنظمة كهذه. الإجابة السريعة تمريرة واحدة عبر الشبكة: نحو 100 مللي ثانية لمعالجة الطلب ونحو 53 مللي ثانية لقراءة الإجابة لدى النموذج Qwen3.5-4B على بطاقة رسومية واحدة. لكنه كثيرًا ما يخطئ في المهام متعددة الخطوات. وقد جمع المؤلفون مجموعة بيانات خاصة بهم: جمع التواريخ، والعدّ وفق شروط، وسلاسل القواعد، والنفي المتداخل، والحساب، والشبكات المنطقية، وإمكانية الوصول في الرسوم البيانية، والجداول الزمنية، ومسائل الشطرنج، بالإنجليزية والصينية. في هذه المجموعة يصيب Qwen3.5-27B في الإجابة السريعة بنسبة 52.3% (و4B بنسبة 40.3%)، وبعد التفكير بنسبة 87.5%. لكن التفكير يمتد إلى ثوانٍ.

الحيلة أن Qwen3.5 نموذج هجين: يستطيع أن يجيب فورًا أو بعد كتلة استدلال. في الوضعين يكون الطلب متطابقًا حتى هذه الكتلة، وتُقرأ الإجابة من الموضع نفسه: من احتمالات الحروف A وB وC… ولذلك يوفّر نموذج واحد «نظامين»:

• النظام 1 يقرأ الحروف بعد كتلة استدلال فارغة، أي فورًا؛
• النظام 2 يقرأ الحروف نفسها بعد «فكرة» مولَّدة.

يعالج النموذج الجزء المشترك من الطلب مرة واحدة. وتُقرأ الإجابة السريعة من نسخة من ذاكرة التخزين المؤقت (cache)، بينما يستمر الاستدلال على النسخة الأصلية. والنسخة ضرورية لأن طبقات الانتباه الكامل في Qwen3.5 ممزوجة بطبقات Gated DeltaNet، ولا يمكن إرجاع حالتها إلى الوراء. ولا تتم إعادة معالجة الطلب عند تمرير المهمة «إلى الأعلى». واحتمالات النظامين بالشكل نفسه، فتتلقاها الشيفرة بالطريقة نفسها. ولا يجري تحليل نص الإجابة، ولذلك لا توجد إجابات غير صالحة.

ضمان على الخطأ وإجابة عند أي ميزانية

أولًا، يجب تحديد المهام التي يمكن الاستغناء فيها عن التفكير. تُحدَّد عتبة الثقة على عيّنة موسومة بطريقة Learn-then-Test. وتضمن هذه الطريقة ألا تتجاوز نسبة الأخطاء بين الإجابات السريعة المقبولة الهدفَ المحدد. وتُحتسب المهام المتشابهة المولَّدة من قالب واحد مثالًا واحدًا، كي لا تضخّم النسخ المكررة الضمان. ولإزالة ميل النموذج إلى تفضيل مواضع معينة في القائمة، يُقرأ الخيار عدة مرات مع إزاحة دائرية للقائمة، ثم يُؤخذ المتوسط.

النتائج عند هدف 5% على 8359 قرارًا اختباريًا:

• يجيب Qwen3.5-27B بنفسه عن 24.5% من المهام، بخطأ فعلي قدره 3.9%؛
• أما النموذجان الأصغر Qwen3.5-4B و9B فنسبتهما أقل بكثير، وعند أشد الأهداف صرامة لا يتولّيان أي قرارات إطلاقًا؛
• لدى Qwen3.8-27B عند أيسر هدف يكون الخطأ في الاختبار أعلى قليلًا من الهدف.

ثم تأتي مسألة طول الاستدلال. يمكن قراءة الحروف بعد أي عدد من توكنات «الفكرة»: يُقطع الاستدلال، وتُضاف عبارة الإيقاف المبكر التي توفّرها Qwen، وتُقرأ الاحتمالات. فالفكرة الواحدة تعطي إجابة عند أي ميزانية، والميزانية الصفرية هي النظام 1. وسياسة «في أي لحظة» تتوقف ببساطة عند أول نقطة تحقق تكون فيها الإجابة واثقة. وفي بقية المهام يعطي ذلك دقة 81.6% مقابل 82.7% مع التفكير الكامل، مع استهلاك 72% من التوكنات.

وثمة ملاحظة غير مريحة. إذا قُرّر التفكير من عدمه بالاعتماد على ثقة النظام 1 وحدها، فإن التوفير يكون أقل. فالمهام التي تتردد فيها الإجابة السريعة أكثر ليست بالضرورة تلك التي يصحّحها الاستدلال. والتنبؤ بمواضع خطأ النموذج والتنبؤ بمواضع إفادة الفكرة مسألتان مختلفتان.

ماذا يعني ذلك عمليًا

على المهام العامة في JevBench، وهو اختبار مستقل لخدمات القرارات المنمَّطة، يفكّر Qwen3.5-27B في 29.4% من الحالات. ولا تختلف دقته عن دقة واجهتَي API تجاريتين مع الاستدلال، لكن المؤلفين يصفون هذه المقارنة بأنها أولية. ويشير الاسم إلى صيغة طلبات النموذج التجاري Jev من TypeSafe: فخادم ThinkJev يقبل هذه الطلبات، بحيث تستطيع حزمة SDK الخاصة به التواصل مع نموذج محلي. والمشروع غير مرتبط بـ TypeSafe، ولم يُختبَر Jev نفسه.

الخلاصة للمهندسين: إذا كان لديكم نموذج هجين مفتوح يعمل بالفعل، فيمكن الحصول على توجيه «أجب بسرعة أو فكّر» دون إعادة تدريب، مع حدّ للخطأ في المسار السريع ودون نموذج ثانٍ. أما القيد فهو أن الطريقة تعمل فقط مع مجموعات الخيارات المغلقة، لا مع النص الحر. والشيفرة ومولّدات البيانات مفتوحة على GitHub (ding-xiaolu/ThinkJev).