بث مباشر 18.11 · الدفعة 318 نوفمبر، 19:00 بتوقيت موسكو — ورشة عملية مجانية لوكلاء الذكاء الاصطناعي · الدفعة 3 تبدأ 23.11ورشة 18 نوفمبر ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارHabr AI→ المصدر

نماذج LLM على VPS بلا بطاقة رسومية: نماذج 4B تصنّف الطلبات بدقة 90% خلال 3–5 ثوانٍ

اختبر كاتب على Habr ما إذا كان VPS بذاكرة 8 GB ودون بطاقة رسومية كافيًا لمهام روتينية مثل فرز طلبات الدعم الفني. حدّدت أفضل النماذج التي تتراوح بين 2 و4 مليارات معامل موضوع الطلب خلال 3–5 ثوانٍ بدقة نحو 90%، بينما استغرقت الإجابة عن سؤال من قاعدة المعرفة ما بين 0,5 و2,5 دقيقة. هذا يكفي للمهام التي تعمل في الخلفية، لكنه لا يكفي للدردشة المباشرة. والنصيحة: اختاروا نموذجًا من فئة 2–4B وضعوا التعليمات العامة في بداية الموجّه (prompt). وفي أبرز النتائج:

معالج بواسطة الذكاء الاصطناعي من Habr AI؛ بتحرير Hamidun News
نماذج LLM على VPS بلا بطاقة رسومية: نماذج 4B تصنّف الطلبات بدقة 90% خلال 3–5 ثوانٍ
المصدر: Habr AI. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليHabr AI ↗
رئيس التحرير
ذاكرة التخزين المؤقت للتعليماتأجاب QVikhr-3-4B خلال 3,8 ثانية بدلًا من 12,4 ثانية بدونها
حقيقة رئيسية #2على 326 طلبًا، حقق 9 نماذج من أصل 10 دقة بين 87% و92%
حقيقة رئيسية #3عند عتبة 0,9، أغلق d1-2B وحده 69% من الطلبات بدقة 97%

تخيّلوا متجرًا إلكترونيًا يصل إلى دعمه الفني مئات الرسائل كل يوم: «أين طلبي»، «أريد إرجاع المنتج»، «رمز الخصم لا يعمل». لا بد من توزيعها على فئات، ويفضّل المتجر أن يفعل ذلك على خادم خاص منخفض التكلفة لا عبر API سحابي، فتبقى بيانات العملاء لديه ولا ترتفع الفاتورة مع زيادة عدد الطلبات. في المقابل، تأجير بطاقة رسومية مكلف.

نشر كاتب على Habr الجزء الثاني من اختباره للنماذج اللغوية الخفيفة على VPS عادي دون بطاقة رسومية، وأخذ في الحسبان الانتقادات الواردة في تعليقات الجزء الأول. والنتيجة الرئيسية: على خادم بذاكرة وصول عشوائي 8 GB، صنّفت أفضل النماذج التي تتراوح بين 2 و4 مليارات معامل (2–4B) الطلب في الفئة المناسبة خلال 3–5 ثوانٍ، وكان الاختيار صحيحًا في نحو 9 مرات من كل 10 (دقة نحو 90%). أما الإجابات عن أسئلة قاعدة المعرفة وتلخيص المستندات فاستغرقت من 0,5 إلى 2,5 دقيقة، وهذا مقبول للمعالجة في الخلفية، لكنه بطيء جدًا للدردشة مع العميل.

بيئة الاختبار وما صُحّح بعد الانتقادات

أُجريت الاختبارات على VPS لدى JustHost: 5 vCPU من نوع Intel Xeon Gold 6148، وذاكرة RAM بسعة 8 GB، وswap بسعة 4 GB، ونظام Ubuntu 24.04، وOllama 0.35.0 داخل Docker. واستُخدمت النماذج بتكميم Q4_K_M. وأُضيفت إلى نماذج الصدارة من الجزء الأول (QVikhr-3-4B وqwen3.5:2b وqwen3.5:4b وgemma3:4b وgranite4:micro-h) خمسة نماذج أكبر: GigaChat 3.1 Lightning وT-lite-it-2.1 وYandexGPT-5-Lite-8B وQwen3-8B وGLM-4-9B. كما أُضيف نموذج d1-2B من Liquid AI لمهمة التصنيف.

وكان القراء قد انتقدوا الجزء الأول لغياب التكرار، ولعدم إجراء قياسات دون ذاكرة تخزين مؤقت، ولصغر العينات. أما الآن فجميع النماذج تستخدم الموجّه نفسه، مع درجة حرارة 0 وseed 42، وجرى تصنيف 326 طلبًا مرتين: أعطت جميع النماذج العشرة الإجابات نفسها في كل الحالات. وبلغ متوسط مؤشر steal (مقدار ما تقتطعه الأجهزة المجاورة على المضيف من المعالج) 0,2% خلال 41 ساعة من التشغيل، فكان أثر الضجيج الناتج عن المحاكاة الافتراضية ضئيلًا.

الذاكرة أهم من المعالج، والتخزين المؤقت أهم من النموذج

أدّت زيادة الذاكرة من 4 GB إلى 8 GB إلى زوال حالات الانهيار بسبب نقص الذاكرة مع النصوص الطويلة، وإلى اختفاء شبه كامل للتبادل مع swap. فعلى سبيل المثال، أجاب QVikhr-3-4B عن أسئلة قاعدة المعرفة خلال 73 ثانية بدلًا من 94، وانخفض التبادل مع swap من 9,1 GB إلى 43 MB. وكان gemma3:4b ينهار في هذا السيناريو مع 4 GB، أما مع 8 GB فأجاب بشكل صحيح عن 14 سؤالًا من أصل 15. وأضاف vCPU الخامس 20–25% فقط إلى سرعة قراءة الموجّه ونحو 10% إلى سرعة التوليد، أي أن الذاكرة الإضافية أنفع من نواة إضافية.

وأكثر ما يؤثر في السرعة هو بنية الموجّه. فإذا بدأت جميع الطلبات بالتعليمات نفسها، يحتفظ النموذج بها في الذاكرة ويقرأ الجزء المتغير فقط، وهو نص الطلب. أما إذا اضطر إلى قراءة التعليمات من جديد، فيزداد الزمن 2–3 مرات: صنّف QVikhr-3-4B الطلب مع التخزين المؤقت خلال 3,8 ثانية، وبدونه خلال 12,4. والقاعدة العملية: التعليمات العامة في البداية، ونص العميل في النهاية. وفي نماذج qwen3.5 الهجينة كان سلوك التخزين المؤقت غير متوقع: بدأ qwen3.5:2b بأخذ الموجّه من الذاكرة المؤقتة بعد 116 طلبًا فقط، أما qwen3.5:4b فلم يفعل ذلك أبدًا في اختبار الحِمل.

الدقة وحجم النموذج والحِمل

في الاختبار الأول على 20 طلبًا حققت سبعة نماذج دقة 100%، لكن على 326 طلبًا حصل 9 نماذج من أصل 10 على 87–92%. والفارق بين النماذج المتصدرة، وهو 2–3 نقاط، يقع ضمن هامش الخطأ الإحصائي؛ لذا ينبغي الاختيار وفق السرعة والذاكرة، والتحقق من النموذج على مئات الأمثلة الخاصة بكم. وقد أعدّت النماذج نفسها التصنيف المرجعي للطلبات الـ326؛ أما الكاتب فصنّف 50 طلبًا عشوائيًا دون اطلاع على تصنيف النماذج، وتطابق 45 منها مع المرجع.

لم تتفوق نماذج 8–10B على أفضل نماذج 4B، وكانت أبطأ منها. والاستثناء من حيث السرعة هو GigaChat 3.1 Lightning: فهو يضم 10B معامل، لكنه بفضل بنية MoE يشغّل 1,8B فقط لكل رمز (token). وإذا كنتم بحاجة إلى نموذج روسي، فاختاروه.

تعالج Ollama الطلبات بالتتابع؛ لذا إذا كان هناك أربعة عملاء، ينتظر كل منهم نحو أربعة أضعاف الوقت، ولا يزداد عدد الطلبات في الساعة. ومع موجّه مشترك عالج QVikhr وGigaChat من 750 إلى 1000 طلب قصير في الساعة، وبدون التخزين المؤقت نحو 300. وفي الطلبات الطويلة (نحو 2500 رمز في المُدخل) كان qwen3.5:2b الأفضل بمعدل 104 طلبات في الساعة مقابل 48 لدى QVikhr-3-4B.

ويستحق d1-2B وقفة منفصلة: فهو لا يولّد نصًا، بل يُخرج في تمريرة واحدة احتمال كل فئة. وتعادل دقته دقة النماذج التوليدية، لكنه عند عتبة 0,9 كان سيتولى بنفسه 69% من الطلبات بدقة 97%، ويحيل الباقي إلى موظف بشري. وهذا خيار مناسب للدعم الفني، حيث يكون الخطأ أغلى من المراجعة اليدوية الإضافية. وقد احتاج إلى نسخة Ollama منفصلة 0.40.15 وإلى المعامل num_batch 2048، وإلا أعاد الطلب البالغ 946 رمزًا خطأً.

وثمة تفصيل عملي آخر: على خادم بذاكرة 8 GB قد تستهلك الذاكرة المؤقتة للموجّهات في Ollama، افتراضيًا، الذاكرة كلها، وقد أدى ذلك إلى أعطال مع qwen3.5:4b. وقد ساعدت إضافة LLAMA_ARG_CACHE_RAM=1024 إلى الإعدادات. أما مجموعات البيانات والسكربتات والإجابات الخام فهي متاحة في المستودع github.com/alvec7/llm-cpu-bench.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول بيئة الاختبار وما صُحّح بعد الانتقادات؟

أُجريت الاختبارات على VPS لدى JustHost: 5 vCPU من نوع Intel Xeon Gold 6148، وذاكرة RAM بسعة 8 GB، وswap بسعة 4 GB، ونظام Ubuntu 24.04، وOllama 0.35.0 داخل Docker. واستُخدمت النماذج بتكميم Q4_K_M. وأُضيفت إلى نماذج الصدارة من الجزء الأول (QVikhr-3-4B وqwen3.5:2b وqwen3.5:4b وgemma3:4b وgranite4:micro-h) خمسة نماذج أكبر: GigaChat 3.1 Lightning وT-lite-it-2.1 وYandexGPT-5-Lite-8B وQwen3-8B وGLM-4-9B. كما أُضيف نموذج d1-2B من Liquid AI لمهمة التصنيف.

ما أبرز التفاصيل حول الذاكرة أهم من المعالج، والتخزين المؤقت أهم من النموذج؟

أدّت زيادة الذاكرة من 4 GB إلى 8 GB إلى زوال حالات الانهيار بسبب نقص الذاكرة مع النصوص الطويلة، وإلى اختفاء شبه كامل للتبادل مع swap. فعلى سبيل المثال، أجاب QVikhr-3-4B عن أسئلة قاعدة المعرفة خلال 73 ثانية بدلًا من 94، وانخفض التبادل مع swap من 9,1 GB إلى 43 MB. وكان gemma3:4b ينهار في هذا السيناريو مع 4 GB، أما مع 8 GB فأجاب بشكل صحيح عن 14 سؤالًا من أصل 15. وأضاف vCPU الخامس 20–25% فقط إلى سرعة قراءة الموجّه ونحو 10% إلى سرعة التوليد، أي أن الذاكرة الإضافية أنفع من نواة إضافية.

ما أبرز التفاصيل حول الدقة وحجم النموذج والحِمل؟

في الاختبار الأول على 20 طلبًا حققت سبعة نماذج دقة 100%، لكن على 326 طلبًا حصل 9 نماذج من أصل 10 على 87–92%. والفارق بين النماذج المتصدرة، وهو 2–3 نقاط، يقع ضمن هامش الخطأ الإحصائي؛ لذا ينبغي الاختيار وفق السرعة والذاكرة، والتحقق من النموذج على مئات الأمثلة الخاصة بكم. وقد أعدّت النماذج نفسها التصنيف المرجعي للطلبات الـ326؛ أما الكاتب فصنّف 50 طلبًا عشوائيًا دون اطلاع على تصنيف النماذج، وتطابق 45 منها مع المرجع. لم تتفوق نماذج 8–10B على أفضل نماذج 4B، وكانت أبطأ منها.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…