ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارHabr AI→ المصدر

GLM 5.3 المحلي يضاعف سرعة الذكاء الاصطناعي على ESP32-S3 بنسبة 100%، وQwen 3.8 27B بنسبة 30%

جمّع المؤلف خادمًا منزليًا بقيمة 113 105 ₽ يضم بطاقتي Tesla V100، وكلّف النماذج المحلية بمهام دون مواصفات فنية مفصلة. أبرز اختبار كان تسريع نموذج لغوي صغير على المتحكم الدقيق ESP32-S3، حيث كُتب المحرك بلغة C الخالصة. رفع GLM 5.3 سرعة التوليد إلى نحو 20 توكن في الثانية (+100%)، ورفعها Qwen 3.8 27B إلى نحو 13 (+30%). أي أن النماذج المحلية باتت قادرة على التعامل مع التحسين منخفض المستوى حتى على تجميعة اقتصادية.

معالج بواسطة الذكاء الاصطناعي من Habr AI؛ بتحرير Hamidun News
GLM 5.3 المحلي يضاعف سرعة الذكاء الاصطناعي على ESP32-S3 بنسبة 100%، وQwen 3.8 27B بنسبة 30%
المصدر: Habr AI. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليHabr AI ↗
رئيس التحرير
حقيقة رئيسية #1نواتج logits في النسختين تطابق المحرك الأصلي بايتًا ببايت
حقيقة رئيسية #2Qwen 3.8 Flash Next توقف عند مهمة ESP32 ولم يحرز أي تقدم
حقيقة رئيسية #3يعمل DeepSeek v4.1 Flash بسرعة 7–15 توكن/ث، لذلك لم يشارك في الاختبارات
GLM 5.3 المحلي يضاعف سرعة الذكاء الاصطناعي على ESP32-S3 بنسبة 100%، وQwen 3.8 27B بنسبة 30%
فيديو مميز / عرض توضيحي
انقر لتشغيل الفيديو الأصلي أو اقرأ التحليل الكامل أدناه.مشاهدة على يوتيوب ↗

عادةً ما تُختبر الشبكات العصبية المحلية بالمهام نفسها: «اصنع نسخة من Minecraft» أو «ارسم واجهة Windows 11». رأى كاتب المقال على موقع Habr أن هذا مملّ، فجمّع في منزله خادمًا بقيمة 113 105 ₽ وكلّف النماذج بمهام غير محددة بدقة، قريبة من «الترميز بالإحساس» (vibe coding)، حيث يُطلب منها «اعمل الأمر بشكل جيد» بدلًا من مواصفات فنية مفصلة. وأوضح الأمثلة على ذلك ESP32-S3، وهو متحكم دقيق رخيص تعمل عليه نماذج لغوية صغيرة.

كُتب محرك النموذج بلغة C الخالصة، وكان على النماذج إعادة كتابته ليستفيد من تعليمات المتجهات في الشريحة. تُقاس السرعة بعدد التوكنات في الثانية: حقق GLM 5.3 نحو 20 (+100% مقارنةً بالأصل)، وحقق Qwen 3.

8 27B نحو 13 (+30%). وبالنسبة للممارس، يجيب ذلك عن سؤالين: كم تكلّف هذه المنصة، وما الذي يعمل عليها فعليًا.

ما مواصفات الخادم وما سرعة استجابته؟

تضم التجميعة معالج AMD EPYC 7452، ولوحة HUANANZHI H12D 8D، وذاكرة 64 ГБ من نوع DDR4 (4 شرائح بسعة 16 ГБ)، وبطاقتي Nvidia V100 بسعة 16 ГБ بصيغة SXM2، ومحرك SSD من طراز Samsung PM9A1 بسعة 1 ТБ. وكلّف التبريد المائي نحو 50 тысяч рублей إضافية، وينصح المؤلف بعدم تكراره إن أمكن الاستغناء عن التبريد المائي المخصص. الأسعار مذكورة وقت الشراء قبل نصف عام. اختير EPYC من أجل 128 مسارًا من PCIe 4.0 وثماني قنوات DDR4. وبحسب المؤلف، هذه اللوحة هي الوحيدة لمعالجات EPYC من الجيلين 2 و3 التي توفر أربع فتحات x16 بسعر معقول. أما لوحة Supermicro h11ssl-i فلديها ثلاث فتحات فقط، وتبدأ أسعار الخيارات الأخرى من 70 тысяч. وقد رُفعت سرعة الذاكرة بسلاسة إلى 2933.

تعمل نماذج MoE الكبيرة على هذه العتاد بفضل مشروعي Strata وMaya، اللذين يقتصدان في استهلاك الذاكرة العشوائية ويحمّلان الأوزان من SSD أثناء التشغيل. السرعة (الرقم الأول لمعالجة الموجّه، والثاني للتوليد، وكلاهما بالتوكن في الثانية):

  • Qwen 3.8 27B: 800–1000 و50–70؛
  • Qwen 3.8 Flash Next (125B): 500–1400 و50–70؛
  • GLM 5.3 Flash (320B): 200–600 و15–20؛
  • DeepSeek v4.1 Flash (763B): 180–250 و7–15. يعمل من الناحية الشكلية، لكنه بطيء جدًا، ولذلك لم يشارك في الاختبارات.

جرى كل ذلك على Windows 10 عبر opencode 1.19 مع البحث على الويب عبر searxng. وشُغّل Qwen 27B عبر llama.cpp بسياق 196 608 توكن وفك ترميز تخميني (speculative decoding) من نوع MTP، وهو يسرّع كتابة الشيفرة بشكل ملحوظ.

كيف تعاملت النماذج مع المهام

المهمة الأولى قارئ دردشة للطرفية بلغة ANSI C مع مكتبة WolfSSL. قدّم GLM وQwen 27B وQwen Flash Next شيفرة عاملة، لكن اضطر المؤلف إلى تنبيه 27B يدويًا إلى أن الشيفرة لا تعمل على Windows. أما Muse Spark فعثر على العنوان المطلوب، لكن المشروع لم يُبنَ، وعطّل فحص TLS. وأخذ Gemma 4 عنوان URL خاطئًا، واستدعى curl عبر popen بدلًا من WolfSSL.

المهمة الثانية تسريع محرك esp32-ai على ESP32-S3 عبر esp-idf وتعليمات المتجهات. توقف Flash Next ولم يحرز تقدمًا حتى بعد عدة عمليات ضغط للسياق. وبلغ Qwen 27B نحو 13 توكن/ث (+30%) باستخدام دوال مكتبة ESP-DSP. أما GLM 5.3 فوصل إلى نحو 20 توكن/ث (+100%) بكتابة شيفرة أسمبلي لامتداد PIE. جرى التحقق من النسختين: نواتج logits تطابق المحرك الأصلي بايتًا ببايت. وحسّنت جميع النماذج كتلة head. وجاءت تحسينات GLM تقريبًا مماثلة لتحسينات Fable 5 التي حققت 22–31 توكن/ث. والفرق أن Fable سرّعت كتلة attn أيضًا.

أين كانت النتائج أضعف

أخفق مولّد الألقاب في الإبداع. فقد أنتج نموذجا Qwen كلمات مصطنعة، وأنتج GLM عبارات مركبة فقط، وزخرفوا النتائج كلها على طراز عام 2012: «ледянойщит9» و«обсидианель» و«supernovaRoot». كان المؤلف يتوقع على الأقل سلاسل ماركوف، لكنه يقر بأن المواصفات الفنية كانت غامضة. ولا توجد تقريبًا ملاحظات على التنفيذ التقني.

أما في المهمة المتناقضة الخاصة برسم حركة لمجموعة ماندلبروت الكسورية (1080p، و60 fps، وANSI C، وGPU بمعمارية Blackwell)، فإن C89 لا يتلاءم جيدًا مع GPU، إذ إن CUDA هي C++. وبحسب المؤلف، تمكن 27B على الأقل من رسم هذا الكسوري.

القيود والخلاصة

هذه ملاحظات شخصية لكاتب واحد: شُغّلت كل مهمة مرة واحدة، والتقييمات ذاتية جزئيًا. وأسماء النماذج مذكورة كما وردت في المصدر. الخلاصة العملية: على تجميعة بنحو 113 тысяч рублей، تحل النماذج المحلية مهام C والأنظمة المضمنة دون مواصفات فنية مفصلة. وفي التحسين المعقد منخفض المستوى قدّم GLM 5.3 أفضل نتيجة، بينما يتفوق Qwen 3.8 27B في سرعة التوليد بمقدار 3–4 أضعاف ويناسب التكرارات السريعة. ومع ذلك، يبقى من الأفضل التحقق من نتيجة أي نموذج.

القصة

أسئلة وأجوبة حول الخبر

ما مواصفات الخادم وما سرعة استجابته؟

تضم التجميعة معالج AMD EPYC 7452، ولوحة HUANANZHI H12D 8D، وذاكرة 64 ГБ من نوع DDR4 (4 شرائح بسعة 16 ГБ)، وبطاقتي Nvidia V100 بسعة 16 ГБ بصيغة SXM2، ومحرك SSD من طراز Samsung PM9A1 بسعة 1 ТБ. وكلّف التبريد المائي نحو 50 тысяч рублей إضافية، وينصح المؤلف بعدم تكراره إن أمكن الاستغناء عن التبريد المائي المخصص. الأسعار مذكورة وقت الشراء قبل نصف عام. اختير EPYC من أجل 128 مسارًا من PCIe 4.0 وثماني قنوات DDR4. وبحسب المؤلف، هذه اللوحة هي الوحيدة لمعالجات EPYC من الجيلين 2 و3 التي توفر أربع فتحات x16 بسعر معقول.

ما أبرز التفاصيل حول كيف تعاملت النماذج مع المهام؟

المهمة الأولى قارئ دردشة للطرفية بلغة ANSI C مع مكتبة WolfSSL. قدّم GLM وQwen 27B وQwen Flash Next شيفرة عاملة، لكن اضطر المؤلف إلى تنبيه 27B يدويًا إلى أن الشيفرة لا تعمل على Windows. أما Muse Spark فعثر على العنوان المطلوب، لكن المشروع لم يُبنَ، وعطّل فحص TLS. وأخذ Gemma 4 عنوان URL خاطئًا، واستدعى curl عبر popen بدلًا من WolfSSL. المهمة الثانية تسريع محرك esp32-ai على ESP32-S3 عبر esp-idf وتعليمات المتجهات. توقف Flash Next ولم يحرز تقدمًا حتى بعد عدة عمليات ضغط للسياق.

ما أبرز التفاصيل حول أين كانت النتائج أضعف؟

أخفق مولّد الألقاب في الإبداع. فقد أنتج نموذجا Qwen كلمات مصطنعة، وأنتج GLM عبارات مركبة فقط، وزخرفوا النتائج كلها على طراز عام 2012: «ледянойщит9» و«обсидианель» و«supernovaRoot». كان المؤلف يتوقع على الأقل سلاسل ماركوف، لكنه يقر بأن المواصفات الفنية كانت غامضة. ولا توجد تقريبًا ملاحظات على التنفيذ التقني. أما في المهمة المتناقضة الخاصة برسم حركة لمجموعة ماندلبروت الكسورية (1080p، و60 fps، وANSI C، وGPU بمعمارية Blackwell)، فإن C89 لا يتلاءم جيدًا مع GPU، إذ إن CUDA هي C++.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…