Gemma 4 على حاسوب مصغّر تكتب 63 رمزًا في الثانية وQwen3.8 تكتب 12,8 فقط: اختبار 14 نموذجًا لغويًا
شغّل كاتب من Habr طوال 86 ساعة 14 نموذجًا عصبيًا محليًا على حاسوب مصغّر بمعالج Ryzen AI Max+ 395 وذاكرة 96 غيغابايت. يولّد نموذج Qwen3.8 27B الكثيف 12,8 رمزًا في الثانية، أما Gemma 4 26B A4B، التي يعمل في كل كلمة منها جزء فقط من المعلمات، فتولّد 63 رمزًا، أي أسرع بنحو خمس مرات. في المقابل، يقرأ Qwen3.8 المستندات الطويلة أفضل من غيره، ولهذا أبقاه الكاتب للمهام المعقدة. للمحادثة الحيّة اختر النموذج السريع، وللأعمال الثقيلة في الخلفية اختر النموذج الكثيف.
معالج بواسطة الذكاء الاصطناعي من Хабр: Машинное обучение؛ بتحرير Hamidun News
قد يردّ روبوتا محادثة محليان على الحاسوب المدمج نفسه بفارق خمسة أضعاف في السرعة، مع أن ملفّي النموذجين متقاربان تقريبًا في الحجم. أمضى كاتب التحليل على Habr أسبوعًا، أي 86 ساعة، في تشغيل 14 نموذجًا عصبيًا محليًا على الحاسوب المصغّر GMKtec EVO-X2. يضم الجهاز معالج Ryzen AI Max+ 395 مع نواة رسومية مدمجة Radeon 8060S وذاكرة سعتها 96 غيغابايت يتقاسمها المعالج والرسوميات.
قاس الكاتب السرعة بعدد الرموز (tokens) في الثانية: الرمز قطعة من الكلمة، وكلما زاد عددها ظهر النص على الشاشة أسرع. ولّد نموذج Qwen3.8 27B الكثيف 12,8 رمزًا في الثانية، بينما ولّد Gemma 4 26B A4B نحو 63.
إن كنتم تفكرون في سحب جزء من المهام من السحابة إلى جهازكم، فإن هذه الأرقام تساعدكم في اختيار النموذج والعتاد معًا.
ما هي بيئة الاختبار ولماذا لزمت؟
البرمجيات على الجهاز: Ubuntu 26.04 وLM Studio 0.4.28 ومحرك llama.cpp عبر Vulkan. وُضعت كل طبقات النموذج على وحدة GPU، وفُعّل Flash Attention، وأُرسلت الطلبات واحدًا تلو الآخر. أُخذت معظم النماذج مضغوطةً بصيغة Q4 (تُخزَّن الأوزان بأربع بتات لتشغل ذاكرة أقل)، والاستثناء gpt-oss-20b بصيغة MXFP4. اختُبر السياق، أي حجم النص الذي يحتفظ به النموذج أمامه، عند 64K و128K و256K رمز. ثلاثة نماذج تدعم حتى 128K فقط. ويقرّ الكاتب بصراحة بتقصير: لم يدوّن نوع تكميم KV-cache، ولذلك لن يكون ممكنًا إعادة الظروف نفسها بدقة.
يتعلق الدرس العملي الأول بنظام التشغيل. فبالنسبة إلى النماذج اللغوية المحلية يهم مقدار الذاكرة التي يمكن تخصيصها للنواة الرسومية. على Windows لم يتمكن الكاتب في إصدار 96 غيغابايت من تخصيص أكثر من 48 غيغابايت، أما على Linux فحصل على 80 غيغابايت (GiB). لذلك يعمل الحاسوب المصغّر على Ubuntu. وإن كنتم تشترون منصة مشابهة للنماذج الكبيرة، فتحققوا من هذا الحدّ قبل الشراء.
ظهر الجهاز لسببين: جُلب من الصين، ثم وقع هجوم على مركز بيانات Yandex. كانت وكلاء الكاتب تعمل في Yandex Cloud، فوجد نفسه بلا أدواته المعتادة. لم يحسب فترة استرداد التكلفة، وسيواصل استخدام النماذج السحابية المتقدمة ما دام ذلك متاحًا. وكان السؤال عمليًا: ما الذي يمكن في العمل اليومي تسليمه بالكامل للنماذج المحلية؟
السرعة: حجم الملف لا يَعِد بشيء
شارك في الجولة التمهيدية 12 نموذجًا. وبلغ النهائيات أربعة نماذج متصدرة ومتنافسان جديدان نُزّلا بعد التصفية، فبلغ عدد النماذج التي اجتازت الاختبارات 14. وأوضح النتائج يتعلق ببنية النماذج. يولّد Qwen3.8 27B الكثيف 12,8 رمزًا في الثانية. أما Gemma 4 26B A4B فيولّد على العتاد نفسه 63 رمزًا، مع أن ملفّيهما متقاربان في الحجم.
يفسّر الفارقَ اختلافُ البنية. في النموذج الكثيف تعمل كل المعلمات عند كل رمز. أما Gemma 4 26B A4B فمن نوع MoE («خليط الخبراء»): يُفعَّل عند كل رمز جزء من الخبراء فقط، وبحسب الاسم نحو 4 مليارات معلمة من أصل 26. تحتاج الذاكرة نفسها، لكن الحساب المطلوب أقل بكثير، ومن هنا الفارق البالغ نحو خمسة أضعاف. وفي المحادثة، حيث ينتظر الشخص الرد، يشبه 12,8 رمزًا في الثانية الكتابة البطيئة، بينما يقارب 63 رمزًا حوارًا طبيعيًا.
السياق الطويل: القراءة تستغرق دقائق
لم يؤثر حجم النافذة في السرعة ولا في الدرجات ما دام الطلب نفسه. وتفعيل 256K «احتياطًا» لا يُعاقَب عليه بحد ذاته. لكن قراءة مُدخل طويل مكلفة: تعالج النماذج 200K رمز في مدة تتراوح بين 8 و23 دقيقة. وبالنسبة إلى وكيل يعيد باستمرار قراءة مستودع كبير أو مجموعة مستندات، فهذا قيد مباشر على السيناريو.
وفي السياق الطويل كان أداء Qwen3.8 هو الأفضل. وهذا هو السبب الرئيسي الذي دفع الكاتب إلى الاحتفاظ به رغم بطء التوليد.
ما بقي في الذاكرة
يُبقي الكاتب نموذجين محمّلين معًا. يتولى Gemma 4 26B Uncensored روبوت المحادثة، حيث تهم سرعة الردود. ويتولى Qwen3.8 27B مع MTP المهام الأصعب والأعمال في الخلفية، حيث يمكن الانتظار لكن المطلوب الجودة والثبات على المُدخلات الكبيرة. MTP وضع التنبؤ بعدة رموز في آن واحد، ويساعد على تسريع التوليد.
ما الذي يمكن استخلاصه من التحليل؟ أولًا، اختاروا النموذج بحسب نوع المهمة: MoE سريع للحوار، ونموذج كثيف للمعالجة الخلفية الثقيلة. ثانيًا، احسبوا وقت قراءة السياق الطويل، لا وقت توليد الرد فحسب. ثالثًا، تحققوا من مقدار الذاكرة التي يخصصها نظام التشغيل لديكم لوحدة GPU.
وينبغي تذكّر القيود أيضًا. هذه نتائج شخص واحد على تهيئة واحدة. فقد عدّل المنهجية أثناء العمل، وأعاد تشغيل بعض الاختبارات، ولم يُسجَّل تكميم KV-cache. تصلح الأرقام مؤشرًا إرشاديًا لخادم منزلي أو مكتبي صغير، لكنها لا تصلح معيارًا صارمًا. ويكتب المؤلف نفسه أنه يريد أن يوفّر على القراء بضع أمسيات، لا أن يصدر حكمًا نهائيًا.
- 21 نوفمبر 2026Opus أعاد كتابة كود llama.cpp: نموذج Qwen على معالج واحد يولّد النص أسرع بنسبة 40%
- 21 نوفمبر 2026MiniMax H3 Image في ComfyUI: ثلاثة تعديلات تزيل البشرة «المتقصّفة» دون تغيير النموذج
- 21 نوفمبر 2026llama.cpp 1.0: واجهة مستقرة، وحذف 35 دالة، وذاكرة تخزين مؤقت لنماذج MoE الكبيرة
- 21 نوفمبر 2026تسريع Qwen3-32B بنسبة 49% دون بطاقة رسوميات جديدة: ضغط الأوزان من 16 إلى 8 بت
أسئلة وأجوبة حول الخبر
ما هي بيئة الاختبار ولماذا لزمت؟
البرمجيات على الجهاز: Ubuntu 26.04 وLM Studio 0.4.28 ومحرك llama.cpp عبر Vulkan. وُضعت كل طبقات النموذج على وحدة GPU، وفُعّل Flash Attention، وأُرسلت الطلبات واحدًا تلو الآخر. أُخذت معظم النماذج مضغوطةً بصيغة Q4 (تُخزَّن الأوزان بأربع بتات لتشغل ذاكرة أقل)، والاستثناء gpt-oss-20b بصيغة MXFP4. اختُبر السياق، أي حجم النص الذي يحتفظ به النموذج أمامه، عند 64K و128K و256K رمز. ثلاثة نماذج تدعم حتى 128K فقط. ويقرّ الكاتب بصراحة بتقصير: لم يدوّن نوع تكميم KV-cache، ولذلك لن يكون ممكنًا إعادة الظروف نفسها بدقة.
ما أبرز التفاصيل حول السرعة: حجم الملف لا يَعِد بشيء؟
شارك في الجولة التمهيدية 12 نموذجًا. وبلغ النهائيات أربعة نماذج متصدرة ومتنافسان جديدان نُزّلا بعد التصفية، فبلغ عدد النماذج التي اجتازت الاختبارات 14. وأوضح النتائج يتعلق ببنية النماذج. يولّد Qwen3.8 27B الكثيف 12,8 رمزًا في الثانية. أما Gemma 4 26B A4B فيولّد على العتاد نفسه 63 رمزًا، مع أن ملفّيهما متقاربان في الحجم. يفسّر الفارقَ اختلافُ البنية. في النموذج الكثيف تعمل كل المعلمات عند كل رمز.
ما أبرز التفاصيل حول السياق الطويل: القراءة تستغرق دقائق؟
لم يؤثر حجم النافذة في السرعة ولا في الدرجات ما دام الطلب نفسه. وتفعيل 256K «احتياطًا» لا يُعاقَب عليه بحد ذاته. لكن قراءة مُدخل طويل مكلفة: تعالج النماذج 200K رمز في مدة تتراوح بين 8 و23 دقيقة. وبالنسبة إلى وكيل يعيد باستمرار قراءة مستودع كبير أو مجموعة مستندات، فهذا قيد مباشر على السيناريو. وفي السياق الطويل كان أداء Qwen3.8 هو الأفضل. وهذا هو السبب الرئيسي الذي دفع الكاتب إلى الاحتفاظ به رغم بطء التوليد.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.