QVikhr-3-4B على خادم VPS بـ1,5 ألف ₽ ودون GPU صنّفت 20 طلبًا من أصل 20 تصنيفًا صحيحًا

كثير من مهام العمل النصية، مثل فرز طلب دعم فني، أو استخراج رقم الهاتف والميزانية من رسالة، أو معرفة ما إذا كان كاتب المراجعة راضيًا، لا تتطلب نموذجًا رائدًا باهظ الثمن؛ فهذا أشبه بدقّ المسامير بمجهر. لكن تشغيل نموذج مفتوح كبير محليًا أمر صعب: فهو يحتاج إلى وحدات GPU يصعب العثور عليها، ولا يرغب الجميع في إرسال بيانات العملاء إلى API سحابي، كما أن قوانين البيانات الشخصية تدفع نحو التشغيل المحلي. اختبر كاتب المقال على Habr أرخص خيار: خادم VPS لدى Justhost.

ru بقالب Ollama مقابل 1,5 ألف ₽ شهريًا (4 vCPU من Intel Xeon Gold 6148، و4 غيغابايت RAM، دون بطاقة رسومية). شغّل عليه تسعة نماذج خفيفة في سبع مهام عمل واختبار تحميل. والنتيجة: صنّف أفضلها، QVikhr-3-4B، فئة جميع الطلبات الـ20 تصنيفًا صحيحًا (100%)، بمعدل 3,5 ثانية لكل طلب.

والخلاصة العملية: يمكن إسناد الروتين النصي القصير إلى خادم كهذا، لكن يُستحسن التحقق من إجابات النموذج برمجيًا، وترك النصوص الطويلة للمعالجة في الخلفية.

ما هو الخادم وما النماذج المشاركة

شمل الاختبار llama3.2:1b (مثبّت مسبقًا في القالب)، وgemma3:1b وgemma3:4b من Google، وqwen3.5:2b وqwen3.5:4b من Alibaba، والنموذج الهجين granite4:micro-h من IBM، ونموذجين من Liquid AI (LFM2.5-1.2B-Instruct وLFM2.5-2.6B)، ونموذج QVikhr-3-4B-Instruction المُدرَّب إضافيًا على اللغة الروسية. وأضاف الكاتب تضمينات bge-m3 للبحث في قاعدة المعرفة (RAG). أما النماذج الروسية GigaChat 3.1 Lightning وT-lite وYandexGPT-5-Lite فلم تتسع لها ذاكرة 4 غيغابايت.

وتبيّن أن القالب مصمَّم لنموذج صغير واحد وللدردشة. فواجهة Open WebUI تستهلك نحو غيغابايت، أي ربع الذاكرة كلها، لذلك اضطر الكاتب إلى إيقافها عند تشغيل نماذج 4B. كما احتاج الخادم إلى swap بحجم 4 غيغابايت، فبدونه كانت النواة تُنهي عمل النماذج عند معالجة النصوص الطويلة. وجاء llama3.2:1b المثبّت مسبقًا الأسوأ بين النماذج التسعة: أخطأ في 7 طلبات من 20، وألّف إجابات من عنده عن ثلاثة أسئلة لا توجد إجاباتها في قاعدة المعرفة.

ما الذي ينجح

تصنيف الطلبات: لم يخطئ QVikhr-3-4B ولا نموذجا qwen3.5 ولا gemma3:4b ولو مرة واحدة. ومع ذلك يتفوق QVikhr على qwen3.5:4b بثلاثة أضعاف في السرعة (نحو 1000 طلب في الساعة مقابل 312)، لأنه يعيد استخدام موجّه النظام الذي قرأه سابقًا، بينما تقرؤه النماذج الهجينة qwen3.5 وgranite وgemma3 من جديد في كل مرة. وهذا هو العامل الحاسم للسرعة على المعالج CPU.

نبرة المراجعات: قيّم QVikhr وqwen3.5:4b 22 مراجعة من 24 تقييمًا صحيحًا، لكن QVikhr أسرع بمرتين. ولم يتعرف أي نموذج تقريبًا على السخرية، لذا يُفضَّل إرسال المراجعات ذات النص الإيجابي والتقييم المنخفض بالنجوم إلى موظف بشري.

استخراج البيانات من الطلبات: أنتج qwen3.5:4b 59 حقلًا من 60 ولم يختلق شيئًا. لكن أيًّا من النماذج لم يحوّل عبارة «حتى يوم الجمعة» في رسالة مؤرخة الثلاثاء 20.10 إلى 23.10، ولذلك ينبغي حساب التواريخ برمجيًا. وقد أفادت تعديلات الموجّه نموذج qwen، بينما ساء أداء gemma3:4b (من 57 إلى 54 حقلًا)، لذا ينبغي اختبار القواعد على كل نموذج على حدة.

RAG: أجاب QVikhr ونموذجا qwen3.5 وgranite إجابة صحيحة عن 14 سؤالًا من 15، وكتبت بصراحة «لا توجد معلومات في قاعدة المعرفة». وتستغرق الإجابة من 40 إلى 95 ثانية، وهذا يصلح لمساعد داخلي لكنه لا يصلح لدردشة العملاء. إعلانات Yandex Direct: التزم qwen3.5:4b وحده بحدود الطول في الإعلانات الثلاثين كلها، لكن نحو نصفها احتاج إلى تصحيح في الوقائع، لذا فهو مولّد مسودات. تطبيع بيانات CRM: انزلقت إجابات 4 نماذج من 9 بمقدار سطر واحد، فوصلت البيانات إلى عملاء آخرين، ولذلك يجب أن تتضمن الإجابة معرّف السطر (id) وأن يتحقق الكود منه. أما تلخيص المستندات الطويلة دون تحريف فلم ينجزه سوى qwen3.5:4b، وذلك مع swap نشط.

التحميل والاستنتاجات

يعالج الخادم الطلبات بالتتابع. وعلى 1 و2 و4 مسارات تكاد الإنتاجية تكون واحدة (qwen3.5:4b: 272 و279 و274 طلبًا في الساعة)، ولا يزداد سوى زمن الانتظار. ولم تُجدِ الفتحات المتوازية في Ollama نفعًا، كما أبطأت flash attention على هذا المعالج قراءة الموجّه من 27 إلى 12 رمزًا في الثانية. وكانت الإعدادات القياسية الأفضل أداءً.

الخلاصة: النماذج من 2B فما فوق تصلح للروتين، أما نماذج 1B فلا تصلح. يمكن إسناد المهام القصيرة مع التحقق البرمجي إلى خادم VPS بـ1,5 ألف ₽، وترك الطويلة للمعالجة في الخلفية. والعنق الزجاجة هو الذاكرة، لذلك ينصح الكاتب باختيار 8 غيغابايت RAM على الأقل. أما القيود فهي: البيانات اصطناعية، والعينات صغيرة، ولم تُختبر النماذج الروسية الكبيرة على خادم كهذا.