Qwen محلي على RTX 5080 يقفز من 33% إلى 88,5% في اختبار دفتر المختبر

عندما يخسر نموذج عصبي محلي أمام نموذج سحابي، يلقي الناس عادةً اللوم على العتاد، بحجة أن ذاكرة الفيديو غير كافية. كاتب سلسلة المقالات على Habr اختبر هذه الفرضية. محطة عمله تضم بطاقة RTX 5080 واحدة (16 غيغابايت من ذاكرة الفيديو و62 غيغابايت من ذاكرة الوصول العشوائي)، وقد أظهرت في اختبارات سابقة نتيجة متواضعة.

ففي أسئلة تخص دفتر المختبر الإلكتروني، أجاب Qwen 3.8 IQ2_XS المبكر إجابة صحيحة عن 8 أسئلة فقط من 24، أي 33%. وبعد التعديلات، على الحاسوب نفسه، سجّل Qwen 3.

8 IQ3_XXS ما مجموعه 23,0 نقطة من 26 ممكنة (88,5%) على مجموعة محدّثة من 26 مهمة، وتقاسم المركز الأول مع Claude Opus 5.5. تخيّل أنك شغّلت نموذجًا محليًا لتحليل الشيفرة أو البيانات، فإذا به «يتبلّد».

قد يكون السبب أن الخادم عطّل بصمت ذاكرة التخزين المؤقت للحوارات، وأن حدّ الرموز يقطع الاستدلال في منتصف العبارة. فيما يلي تفصيل ما اضطر الكاتب إلى إصلاحه.

النسخة الكاملة بدل المقتطعة

جرى تصغير نسخة Qwen 3.8 Coder IQ1_M إلى 23,4 غيغابايت بطريقتين. ضُغطت الأوزان إلى نحو 1,6 بت، وحُذف نصف الخبراء الموجَّهين من كل طبقة، فبقي 256 من أصل 512. و«الخبراء» هنا كتل منفصلة داخل النموذج يوزّع بينها العمل. وفي تعديلات الشيفرة البسيطة لا تكاد الخسائر تُلحظ. لكنها تظهر حين يلزم الإمساك بعدة أنظمة فرعية في وقت واحد: معاملات FireDAC المتداخلة، وإعادة حساب الواجهة، وإعادة تعبئة أرشيفات المشروع، وفحص التحديثات في الخلفية مع مطابقة SHA-256. عندها كان النموذج المقتطع يخطئ الهدف مرة بعد أخرى.

اعتمد الكاتب النسخة الكاملة بـ512 خبيرًا، Qwen3.8-Flash-Next-GSQ-RCO-IQ3_XXS من مختبر ISTA-DASLab (2,84 بت للوزن الواحد، و40 GiB للخبراء). وبحسب جداول الحفاظ على الدقة، فهي أفضل من IQ2_XS بمقدار 2,3 نقطة مئوية فقط: 87,3% مقابل 85,0% من النموذج غير المضغوط. لكن في وكيل متعدد الخطوات بسياق يقارب مئة ألف رمز، تتراكم الأخطاء الصغيرة من خطوة إلى أخرى، فيصبح الفرق ملموسًا.

فخّان في إعدادات الخادم

في البداية ظل الوكيل يصطدم بمهلة 45 دقيقة. وفي سجلات المحرّك Strata ظهر سببان.

الأول: الحجز المزدوج للذاكرة. كان الخادم يحمّل أكثر شرائح الخبراء استخدامًا (7,0 GiB) في ذاكرة الفيديو، وفي الوقت نفسه يحاول تثبيت كامل الخبراء البالغ 40 GiB في ذاكرة الوصول العشوائي. وبقي من الذاكرة الحرة 0,7 GiB فقط، فكان الخادم يعطّل بصمت ذاكرة التخزين المؤقت للحوارات. وبدونها كان الوكيل في كل خطوة من الجلسة الطويلة يعيد قراءة 60–100 ألف رمز من السجل، ويخسر دقيقة كاملة. الخيار --resident-experts يثبّت في ذاكرة الوصول العشوائي الجزء المكمّل لذاكرة الفيديو فقط، أي 33,5 GiB. وذهبت الـ5,4 GiB المتحررة إلى ذاكرة الجلسات المؤقتة.

الثاني: قطع الاستدلال. قبل تعديل الشيفرة يكتب النموذج داخل الوسم think خطة من 6–9 آلاف رمز. وكان في الوكيل سقف maxTokens بقيمة 8192، وفي الخادم مفعّل الوضع answer_room. وحين يبلغ الاستدلال 6144 رمزًا، كان الخادم يغلق الوسم قسرًا ويترك 2048 رمزًا للإجابة. فتنقطع الفكرة في منتصف الكلمة، ويُخرج النموذج تعليقًا دون استدعاء أي أداة، ثم تبدأ العملية من جديد. رفع الكاتب الحدّ إلى maxTokens 16384 وضبط answer_room: false. اختفت الدورات العقيمة، وصار النموذج يحافظ على 70–81 رمزًا في الثانية عند سياق 131 072 رمزًا.

وفي Windows ملاحظة صغيرة: تثبيت 33,5 GiB من الذاكرة عند البدء يستغرق نحو 30 ثانية. لذلك يُفضَّل إبقاء الخادم عملية واحدة دائمة طوال سلسلة المهام.

ما النتيجة

في 20 مهمة Delphi، اعتُبرت المهمة محلولة إذا بُني المشروع في RAD Studio دون تحذيرات مترجم جديدة واجتاز اختبارات DUnitX المخفية. حلّ Qwen الكامل، دون مهارة إضافية، 19 مهمة من 20 (95%)، مثل Claude Sonnet 5.5، واجتاز جميع الاختبارات المخفية. وأنجز المهام الثلاث التي تعثرت فيها النسخة المقتطعة. ومع تفعيل مهارة delphi-development تراجعت النتيجة إلى 17 من 20. ويرى الكاتب أن السبب تفاوت إحصائي ناتج عن تشغيلات مفردة: فالنموذج القوي يقرأ الوحدات المجاورة ويتبنى أسلوب المشروع حتى دون توجيهات.

وفي اختبار ELN Suite 1.1 (26 مهمة، خادم MCP حي)، سجّل النموذج المحلي 23,0 نقطة (88,5%) وأنهى الاختبار في 46 دقيقة. وحصل Claude Sonnet 5.5 وGemini 4 على 21,0 لكل منهما، وDeepSeek V4.1 Flash على 19,0. أما التشغيل الأول فأعطى 22,0: فقد نال النموذج صفره الوحيد في سؤال تمهيدي، إذ مرّر معاملًا منطقيًا على هيئة السلسلة "True" بدل true. غلاف الوكيل OMP يتسامح مع ذلك، أما المدقّق الصارم الذي كتبه الكاتب نفسه، وأحد محللات المعاملات الخمسة المكرّرة في خادم Delphi، فلا يتسامحان.

الخلاصات العملية والتحفظات

• لا تعتمدوا النسخ المقتطعة من الخبراء في المهام الوكيلة المعقدة.
• راقبوا التوازن بين ذاكرة الوصول العشوائي وذاكرة الحوارات المؤقتة: فتعطيل الذاكرة المؤقتة بصمت يحوّل الجلسة إلى إعادة قراءة لا تنتهي للسياق.
• اتركوا للنموذج المستدلّ هامشًا في maxTokens، ولا تفعّلوا الإغلاق القسري للوسم think.
• اجعلوا الأدوات متسامحة مع "True" وnull في الحقول الاختيارية.

التحفظات مهمة. فالاختبارات من إعداد الكاتب نفسه، وعلى مشاريع مغلقة، وبعض الإعدادات شُغّلت مرة واحدة فقط. أما نسبة 33% القديمة فقد جاءت من مجموعة من 24 سؤالًا، بينما جاءت نسبة 88,5% الجديدة من مجموعة محدّثة من 26 مهمة. والنموذج المحلي أبطأ بوضوح: 46 دقيقة مقابل 17 لدى Opus 5.5 و11 لدى Sonnet 5.5. في المقابل، تكلفة التشغيل $0 مقابل $5,37 لدى Opus. وإذا لم تكن المهام عاجلة، ولا يجوز إخراج البيانات من المختبر، فهذه حجة وجيهة لصالح العتاد الخاص.