ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارHabr AI→ المصدر

Opus أعاد كتابة كود llama.cpp: نموذج Qwen على معالج واحد يولّد النص أسرع بنسبة 40%

تشغيل الشبكة العصبية دون بطاقة رسوميات ممكن، لكنها تردّ ببطء. كلّف كاتب المنشور على Habr الذكاء الاصطناعي Opus بإجراء الاختبارات وتعديل كود محرك llama.cpp على مدى عدة أيام. وفي النتيجة ارتفعت سرعة نموذج Qwen3.8-Flash-Next Gyro على معالج واحد من 1,97 إلى 2,72 توكن في الثانية، أي بنحو 40% (التوكن هو مقطع لفظي أو كلمة قصيرة). وهذه السرعة لا تزال بطيئة للدردشة الحية، لكن الإضافات البرمجية تستحق التجربة في المهام الخلفية على الخوادم التي لا تحتوي على وحدة معالجة رسوميات.

معالج بواسطة الذكاء الاصطناعي من Habr AI؛ بتحرير Hamidun News
Opus أعاد كتابة كود llama.cpp: نموذج Qwen على معالج واحد يولّد النص أسرع بنسبة 40%
المصدر: Habr AI. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليHabr AI ↗
رئيس التحرير
حقيقة رئيسية #1تسارعت قراءة الموجّه (prompt) من 4,12 إلى 11,21 توكن/ث (التصحيح fix37)
حقيقة رئيسية #2أعطى التصحيح fix23 تسارعًا في التوليد بمعامل ×1,23، وأعطى fix37 معامل ×1,40 قياسًا بالنسخة الأصلية
حقيقة رئيسية #3التصحيحات موجودة في merge request على GitLab، ويطلب الكاتب من القرّاء إرسال قياساتهم

تكاد كل نصيحة لتسريع الشبكات العصبية المحلية تبدأ بالجملة نفسها: اشترِ بطاقة رسوميات. أو اضغط النموذج نفسه وأعِد تدريبه. فماذا تفعل إن كان في جهازك معالج وذاكرة وصول عشوائي فقط؟ قرر كاتب منشور على Habr أن يختبر ذلك عمليًا. فكلّف الذكاء الاصطناعي Opus بتطوير كود llama.cpp، وهو محرك شائع لتشغيل النماذج على الأجهزة الشخصية. وفي النتيجة ارتفعت سرعة Qwen3.8-Flash-Next Gyro دون بطاقة رسوميات من 1,97 توكن في الثانية إلى 2,72. والتوكن هنا يعادل تقريبًا مقطعًا لفظيًا أو كلمة قصيرة، أي إن السرعة زادت بنحو 40%. النتيجة متواضعة، لكن لها أرقامًا وكودًا مفتوحًا.

ماذا فُعل بالضبط

كان النموذج المستخدم في الاختبار Qwen3.8-Flash-Next Gyro بصيغة GGUF، وهي الصيغة التي تُشغَّل بها النماذج عبر llama.cpp. ولم يعدّل الكاتب النموذج نفسه: لا إعادة تدريب ولا ضغط. بل اشتغل على كود المحرك. وتولّى Opus العمل الرئيسي. فعلى مدى عدة أيام شغّل الاختبارات على حاسوب الكاتب، وبحث عن المواضع التي يهدر فيها المعالج وقته بلا فائدة، واقترح تعديلات على كود llama.cpp.

وأسفر ذلك عن عدة نسخ من التصحيح. وفي الجدول يقارن الكاتب نسختين منها، fix23 وfix37، بالبناء الأصلي.

ما أظهرته القياسات

قيس أمران: سرعة قراءة الموجّه (كم توكنًا «يقرأ» النموذج في الثانية) وسرعة توليد الرد. وفي كل خلية من الجدول رقمان. ولم يوضح الكاتب ما يعنيه الرقم الثاني، لذلك نورد أدناه الزوجين معًا.

  • النسخة الأصلية: الموجّه 4,12 / 3,75 توكن/ث، والتوليد 1,97 / 1,92.
  • fix23: الموجّه 10,98 / 10,05، والتوليد 2,41 / 2,38، والتسارع ×1,23.
  • fix37: الموجّه 11,21 / 14,49، والتوليد 2,72 / 2,73، والتسارع ×1,40.

تسارعت قراءة الموجّه أكثر من التوليد: بحسب الأرقام الأولى من 4,12 إلى 11,21 توكن/ث، أي ما يقارب ثلاثة أضعاف. وهذا مفهوم بالنسبة للمعالج. فالموجّه يمكن معالجته على دفعات كبيرة، أما توليد الرد فيجري توكنًا واحدًا في كل مرة ويصطدم بسرعة الذاكرة، ولذلك يصعب انتزاع مكاسب كبيرة فيه. كما أرفق الكاتب رسمًا بيانيًا: كلما طال السياق، تباطأ التوليد. والتصحيحات لا تزيل هذه العلاقة.

ما العمل بهذه النتيجة وأين حدودها

تبقى سرعة 2,7 توكن في الثانية ضعيفة للدردشة التفاعلية. لكنها في المهام الخلفية، مثل المعالجة الدفعية للنصوص التي لا تتطلب استعجالًا، تمنح مكسبًا ملحوظًا. وهذه قياسات على جهاز واحد. أما أي معالج وكم ذاكرة يملك الكاتب فلم يُذكر في المنشور. ولذلك لا يمكن الوعد بالتسارع نفسه على عتاد آخر أو مع نموذج آخر. ويتساءل الكاتب نفسه عمّا إذا كان من الممكن إجراء الضبط ذاته لنماذج أخرى، ويطلب من القرّاء إرسال إعدادات أجهزتهم ونسبة التسارع بعد تطبيق التصحيحات.

التصحيحات موجودة في merge request على GitLab ضمن مستودع agentionai-group/llama.cpp. وإذا كنت تشغّل نماذج محلية على خادم دون GPU، يمكنك بناؤها ومقارنتها بـ llama.cpp العادي على حِملك الفعلي. كما أنها مثال على مساعد ذكاء اصطناعي يعمل أيامًا على كود منخفض المستوى فوق عتاد حقيقي، لا على كتابة CRUD نمطي.

وثمة تفصيل مزعج. فقد حُظر الحساب الذي شغّل الكاتب Opus من خلاله. ولم تنفع عملية التحقق ولا الاستئناف، والحظر نهائي. وهو يسأل الآن المجتمع: أي نموذج، وفي أي harness (الغلاف البرمجي الذي يمنح النموذج الأدوات ويتيح له العمل باستقلالية)، قادر على العمل مدة طويلة على جهاز شخصي مثل Claude Code؟ والسؤال عملي: فإذا كان المشروع يعتمد على مزوّد سحابي واحد، فقد يتوقف في أي لحظة.

ويُظهر استطلاع مصغّر تحت المنشور مدى ضيق هذا المجال. فقد صوّت ثلاثة أشخاص: اثنان شغّلا LLM على حاسوب ببطاقة رسوميات منفصلة، وواحد دونها، ولم يستخدم أحد وحدات NPU المتخصصة. العيّنة صغيرة جدًا. ومع ذلك فهي تذكّرنا بأن تسريع المعالجات العادية لا يهم إلا دائرة محدودة من الهواة. وبالنسبة لهم، فإن زيادة بنسبة 40% محسوسة فعلًا.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول ماذا فُعل بالضبط؟

كان النموذج المستخدم في الاختبار Qwen3.8-Flash-Next Gyro بصيغة GGUF، وهي الصيغة التي تُشغَّل بها النماذج عبر llama.cpp. ولم يعدّل الكاتب النموذج نفسه: لا إعادة تدريب ولا ضغط. بل اشتغل على كود المحرك. وتولّى Opus العمل الرئيسي. فعلى مدى عدة أيام شغّل الاختبارات على حاسوب الكاتب، وبحث عن المواضع التي يهدر فيها المعالج وقته بلا فائدة، واقترح تعديلات على كود llama.cpp. وأسفر ذلك عن عدة نسخ من التصحيح. وفي الجدول يقارن الكاتب نسختين منها، fix23 وfix37، بالبناء الأصلي.

ما أبرز التفاصيل حول ما أظهرته القياسات؟

قيس أمران: سرعة قراءة الموجّه (كم توكنًا «يقرأ» النموذج في الثانية) وسرعة توليد الرد. وفي كل خلية من الجدول رقمان. ولم يوضح الكاتب ما يعنيه الرقم الثاني، لذلك نورد أدناه الزوجين معًا. النسخة الأصلية: الموجّه 4,12 / 3,75 توكن/ث، والتوليد 1,97 / 1,92. fix23: الموجّه 10,98 / 10,05، والتوليد 2,41 / 2,38، والتسارع ×1,23. fix37: الموجّه 11,21 / 14,49، والتوليد 2,72 / 2,73، والتسارع ×1,40. تسارعت قراءة الموجّه أكثر من التوليد: بحسب الأرقام الأولى من 4,12 إلى 11,21 توكن/ث، أي ما يقارب ثلاثة أضعاف.

ما أبرز التفاصيل حول ما العمل بهذه النتيجة وأين حدودها؟

تبقى سرعة 2,7 توكن في الثانية ضعيفة للدردشة التفاعلية. لكنها في المهام الخلفية، مثل المعالجة الدفعية للنصوص التي لا تتطلب استعجالًا، تمنح مكسبًا ملحوظًا. وهذه قياسات على جهاز واحد. أما أي معالج وكم ذاكرة يملك الكاتب فلم يُذكر في المنشور. ولذلك لا يمكن الوعد بالتسارع نفسه على عتاد آخر أو مع نموذج آخر. ويتساءل الكاتب نفسه عمّا إذا كان من الممكن إجراء الضبط ذاته لنماذج أخرى، ويطلب من القرّاء إرسال إعدادات أجهزتهم ونسبة التسارع بعد تطبيق التصحيحات.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…