ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارOllama Blog→ المصدر

Ollama تسرّع Gemma 4 على أجهزة Mac بنحو 90% في اختبار وكيل البرمجة Aider

رفع الإصدار Ollama 0.31 سرعة Gemma 4 على أجهزة Mac المزوّدة بشرائح Apple Silicon بنحو 90%. ففي اختبار Aider polyglot، يحلّ وكيل البرمجة مهام حقيقية، وينتج النموذج التوكنات (أجزاء النص) بوتيرة أسرع. يتوقّع نموذج مسودّة صغير عدة توكنات مقدّمًا، ثم يتحقق النموذج الكبير منها في تمريرة واحدة ويُبقي الصحيح منها، ولذلك لا تتغيّر الإجابة. وفي الشيفرة البرمجية كثير من الأقواس والقوالب المتكررة، فتصيب التوقعات هدفها في أغلب الأحيان. وبالنسبة إلى الوكلاء المحليين، يعني ذلك فترات انتظار أقل بين الخطوات.

معالج بواسطة الذكاء الاصطناعي من Ollama Blog؛ بتحرير Hamidun News
Ollama تسرّع Gemma 4 على أجهزة Mac بنحو 90% في اختبار وكيل البرمجة Aider
المصدر: Ollama Blog. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليOllama Blog ↗
رئيس التحرير
القياسنموذج Gemma 4 12B (بصيغة nvfp4) على شريحة M5 Max، والتسريع مفعّل افتراضيًا
حقيقة رئيسية #2يُضبط طول المسودّة تلقائيًا أثناء التشغيل؛ وعند تكرار الإخفاق يعود المحرّك إلى الوضع العادي
حقيقة رئيسية #3أُضيفت إلى MLX نواة جديدة للتحقق من 2–8 توكنات، وهي متاحة لجميع النماذج

لا يتباطأ وكيل البرمجة المحلي بسبب ضعف النموذج، بل بسبب فترات التوقف: فهو يقرأ الملفات، ويستدعي الأدوات، ثم يفكّر من جديد، وكل ثانية انتظار تتراكم لتصبح دقائق. أصدر فريق Ollama (برنامج لتشغيل الشبكات العصبية على جهازك الخاص) الإصدار 0.31، وفيه ينتج نموذج Gemma 4 من Google على أجهزة Mac المزوّدة بشرائح Apple Silicon التوكنات، أي أجزاء النص، بسرعة أعلى بنحو 90%. جاء هذا الرقم من اختبار Aider polyglot، وفيه يحلّ وكيل برمجة فعلي مهام برمجية حقيقية، لا ألغازًا اصطناعية. وتبقى مخرجات النموذج كما هي، بينما التسريع مفعّل افتراضيًا.

كيف يعمل multi-token prediction

يُخرج النموذج اللغوي المعتاد النص توكنًا بعد توكن: يفكّر، ثم يكتب جزءًا، ثم يفكّر من جديد. أما Multi-token prediction (MTP، أي التنبؤ بعدة توكنات دفعة واحدة) فيكسر هذا الطابور. يأتي مع Gemma 4 نموذج مسودّة صغير وسريع. يعمل هذا النموذج إلى جانب النموذج الأساسي، ويقترح عدة توكنات تالية دفعة واحدة.

بعد ذلك يتحقق النموذج الأساسي من حزمة الاقتراحات كاملةً في تمريرة واحدة، ويُبقي التوكنات التي يوافق عليها. يشبه ذلك أن يكتب متدرّب بضعة أسطر من الشيفرة، فيقبل المطوّر الأقدم الصحيح منها بنظرة واحدة ويشطب الخاطئ. وإذا صحّت التخمينات، يثبّت النموذج عدة توكنات دفعة واحدة بتكلفة توكن واحد.

والشيفرة البرمجية تناسب هذا الأسلوب تقريبًا على أكمل وجه. ففيها كثير من أقواس الإغلاق وأسماء المتغيرات المتكررة والبُنى القالبية، ولذلك يصيب نموذج المسودّة كثيرًا. ولهذا السبب يظهر المكسب بوضوح أكبر لدى وكلاء البرمجة الذين يراجعون النموذج باستمرار.

ويؤكد مطوّرو Ollama بشكل خاص أن مخرجات النموذج لا تتغيّر. فالنموذج الأساسي هو من يقرّر في النهاية أي التوكنات يقبل، وبالتالي فهذه ليست نسخة مبسّطة من Gemma 4، بل النتيجة نفسها تُنتَج بسرعة أكبر.

ثلاثة تغييرات تقف وراء التسريع

الأول: الضبط التلقائي لطول المسودّة. لا يوجد رقم عالمي للتوكنات التي ينبغي اقتراحها في كل مرة. فهو يعتمد على النموذج، والتكميم (ضغط الأوزان)، والعتاد، ومدى قابلية النص للتوقّع في اللحظة المعنية. فإذا كان الاقتراح قصيرًا، ضاعت فرصة لرفع السرعة. وإذا كان طويلًا، ضاع الوقت في التحقق من تخمينات مرفوضة، فيصبح MTP أبطأ من التوليد العادي. يتتبّع Ollama عدد مرات قبول التخمينات ومدة التحقق، ويختار الطول الذي يمنح أكبر عدد من التوكنات في الثانية. وحين تتوقف التخمينات عن الإصابة، يعود المحرّك إلى الوضع المعتاد توكنًا بتوكن، فلا يحدث تباطؤ.

الثاني: حلقة التوليد التخميني نفسها. يتنبأ نموذج المسودّة بتوكن، ويعيده إلى مدخله هو، ويكرر ذلك حتى تتكوّن سلسلة قصيرة. ثم يتحقق النموذج الأساسي من السلسلة كاملةً. وتُنفَّذ هذه العملية بأكملها، بما فيها اختيار التوكن، على وحدة GPU في تمريرة واحدة دون العودة إلى CPU. وتكون التوكنات المرفوضة قد سُجّلت بحلول ذلك الوقت في الذاكرة المؤقتة (الكاش)، أي في الحالة العاملة للنموذج، كي لا يُعاد حساب النص السابق. لذلك يحفظ المحرّك نقطة تراجع قبل كل اقتراح، وعند الرفض يعود ببساطة إلى آخر توكن مقبول. ولا يُعاد حساب أي شيء سابق.

الثالث: نواة جديدة للتحقق من الحزمة. تقع التكاليف الأساسية لا على المسودّة بل على التحقق: يمرّ النموذج الأساسي على حزمة من 2–8 توكنات. وعادةً تُصمَّم نوى ضرب المصفوفات إما لتوكن واحد وإما لدفعة كبيرة، أما هذا الحجم المتوسط فغير ملائم للحالتين. أضاف Ollama إلى MLX (إطار Apple لتعلّم الآلة على أجهزة Mac) نواةً تقرأ كل كتلة من الأوزان وتفكّ ضغطها مرة واحدة وتطبّقها على الحزمة كلها، بدلًا من إعادة قراءة الأوزان لكل توكن. الحسابات هي نفسها، والتسريع ناتج عن التخلص من العمل الزائد. وهذه النواة متاحة في MLX لنماذج أخرى أيضًا، لا لـ Gemma 4 في Ollama وحدها.

ما ينبغي معرفته عمليًا

أُجريت القياسات على نموذج Gemma 4 12B بتكميم nvfp4 على شريحة M5 Max. ويشترط المؤلفون أنفسهم أن مكسب MTP يعتمد كثيرًا على طبيعة الحمل، وأن الاختبار الاصطناعي يمكن تطويعه لإعطاء أي نتيجة. لذلك لا ينبغي توقّع 90% بالضبط في كل مهمة: ففي النص غير القابل للتوقّع ستخطئ التخمينات أكثر، وسيتراجع المكسب. لكن الضبط التلقائي للطول يُفترض أن يحمي من التباطؤ.

للتجربة، يلزم Ollama 0.31 أو أحدث على macOS. ويمكن تشغيل Gemma 4 مع وكيل بالأمر ollama launch claude --model gemma4:12b-mlx. وإذا كنت قد نزّلت Gemma 4 سابقًا، فيجب تحديث النموذج: ollama pull gemma4:12b-mlx. وبحسب ما أعلنته Ollama، فإن هذا الأسلوب يعمل أيضًا مع Codex وDroid وOpenCode وCopilot وأدوات أخرى.

صار Gemma 4 أول نموذج يحصل على هذا التسريع، وتعد Ollama بتعميمه على نماذج أخرى. وبالنسبة إلى من يشغّلون وكلاء البرمجة محليًا على Mac، فهذه طريقة مجانية لتقليص الانتظار دون تغيير النموذج ودون خسارة في الجودة.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول كيف يعمل multi-token prediction؟

يُخرج النموذج اللغوي المعتاد النص توكنًا بعد توكن: يفكّر، ثم يكتب جزءًا، ثم يفكّر من جديد. أما Multi-token prediction (MTP، أي التنبؤ بعدة توكنات دفعة واحدة) فيكسر هذا الطابور. يأتي مع Gemma 4 نموذج مسودّة صغير وسريع. يعمل هذا النموذج إلى جانب النموذج الأساسي، ويقترح عدة توكنات تالية دفعة واحدة. بعد ذلك يتحقق النموذج الأساسي من حزمة الاقتراحات كاملةً في تمريرة واحدة، ويُبقي التوكنات التي يوافق عليها. يشبه ذلك أن يكتب متدرّب بضعة أسطر من الشيفرة، فيقبل المطوّر الأقدم الصحيح منها بنظرة واحدة ويشطب الخاطئ.

ما أبرز التفاصيل حول ثلاثة تغييرات تقف وراء التسريع؟

الأول: الضبط التلقائي لطول المسودّة. لا يوجد رقم عالمي للتوكنات التي ينبغي اقتراحها في كل مرة. فهو يعتمد على النموذج، والتكميم (ضغط الأوزان)، والعتاد، ومدى قابلية النص للتوقّع في اللحظة المعنية. فإذا كان الاقتراح قصيرًا، ضاعت فرصة لرفع السرعة. وإذا كان طويلًا، ضاع الوقت في التحقق من تخمينات مرفوضة، فيصبح MTP أبطأ من التوليد العادي. يتتبّع Ollama عدد مرات قبول التخمينات ومدة التحقق، ويختار الطول الذي يمنح أكبر عدد من التوكنات في الثانية.

ما أبرز التفاصيل حول ما ينبغي معرفته عمليًا؟

أُجريت القياسات على نموذج Gemma 4 12B بتكميم nvfp4 على شريحة M5 Max. ويشترط المؤلفون أنفسهم أن مكسب MTP يعتمد كثيرًا على طبيعة الحمل، وأن الاختبار الاصطناعي يمكن تطويعه لإعطاء أي نتيجة. لذلك لا ينبغي توقّع 90% بالضبط في كل مهمة: ففي النص غير القابل للتوقّع ستخطئ التخمينات أكثر، وسيتراجع المكسب. لكن الضبط التلقائي للطول يُفترض أن يحمي من التباطؤ. للتجربة، يلزم Ollama 0.31 أو أحدث على macOS. ويمكن تشغيل Gemma 4 مع وكيل بالأمر ollama launch claude --model gemma4:12b-mlx.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…