ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارHabr AI→ المصدر

تحليل llama.cpp: أي أعلام الخيوط والسياق والدفعات تؤثر في السرعة

حلّل كاتب على Habr المعاملات العامة في llama.cpp، وهي المشتركة بين llama-cli وllama-completion وllama-server، وأرفق كل علم بتعليق. فمثلًا، الدفعة (batch) الافتراضية 2048 رمزًا، والدفعة الدقيقة الفيزيائية (microbatch) 512، ويؤخذ السياق من النموذج، وتُختار الخيوط تلقائيًا. بعض الأعلام، مثل ربط الخيوط بالأنوية والأولوية، لا تغيّر السرعة إلا قليلًا، أما السياق والدفعات فتؤثر مباشرة في الذاكرة. لذلك يُنصح بالبدء بهما عند الضبط.

معالج بواسطة الذكاء الاصطناعي من Habr AI؛ بتحرير Hamidun News
تحليل llama.cpp: أي أعلام الخيوط والسياق والدفعات تؤثر في السرعة
المصدر: Habr AI. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليHabr AI ↗
رئيس التحرير
حقيقة رئيسية #1--threads -1 يختار الخيوط تلقائيًا؛ وقد تُبطئ الخيوط الزائدة عملية التوليد
حقيقة رئيسية #2--keep يحتفظ ببداية الحوار، مثل موجّه النظام (system prompt)، عند إزاحة السياق
حقيقة رئيسية #3--flash-attn ضروري لتكميم (quantization) ذاكرة V المؤقتة، وقيمته الافتراضية auto

تشغيل النماذج محليًا عبر llama.cpp أمر بسيط ما دامت الإعدادات الافتراضية تعمل. أما حين تحتاج إلى رفع السرعة أو إلى إدخال النموذج في الذاكرة المتاحة، فتبدأ قراءة دليل مساعدة يضم نحو مئة علم. جمع كاتب على Habr الجزء الأول من هذا الدليل: المعاملات العامة (Common Params) التي تعمل بالطريقة نفسها تقريبًا في llama-cli وllama-completion وllama-server. وأورد لكل علم الوصف الأصلي من دليل المساعدة المدمج، ثم أضاف تعليقه الخاص. أُجري الفحص على الإصدار 0.8.0-dev (build 12014) تحت Linux x86_64، وتاريخ التحقق هو 15 نوفمبر 2026.

أعلام الخدمة والذاكرة المؤقتة

يبدأ دليل المساعدة بأوامر مساعدة. يطبع -h, --help, --usage جميع المعاملات مع قيمها الافتراضية ومتغيرات البيئة. ويعرض --version رقم الإصدار وبيانات البناء، ومنها يمكن التحقق من وجود دعم CUDA. ويطبع --license تراخيص llama.cpp وتبعياته، غير أن هذا العلم لم يعد موجودًا في الإصدارات الأحدث. ويعرض -cl, --cache-list النماذج المخزنة في ذاكرة القرص المؤقتة. ولا تصل النماذج إلى هذه الذاكرة إلا عند تنزيلها عبر -mu, --model-url؛ أما إن وصلتَ الملفات بمسار مباشر فستكون القائمة فارغة. ويطبع --completion-bash سكربت الإكمال التلقائي للطرفية، وبعده تُستكمل الأعلام بالضغط على TAB.

الخيوط وأنوية المعالج وأولوياته

أكبر مجموعة أعلام تخص المعالج. يحدد -t, --threads عدد الخيوط المستخدمة في التوليد، وقيمته الافتراضية -1 (اختيار تلقائي). ويحذّر الكاتب من أن التوليد مقيَّد بعرض نطاق الذاكرة، ولذلك يتلاشى المكسب بعد عدد معين من الخيوط، وقد تُبطئ الخيوط الزائدة العمل. وثمة رأي بأن الأفضل في معالجات Ryzen تحديد الأنوية الفيزيائية، وفي Intel الأنوية المنطقية، لكن هذا يستلزم التجربة على عتادك. ويتحكم -tb, --threads-batch في معالجة الموجّه الوارد (prefill). وهو يتوسع جيدًا مع عدد الخيوط، لذا فالأمثل هنا عدد أكبر. وإذا لم يُحدَّد هذا العلم، تؤخذ قيمة --threads.

ثم تأتي إعدادات التوزيع الدقيقة. يربط -C, --cpu-mask العمل بأنوية معينة عبر قناع سداسي عشري (مثلًا 0xF تعني الأنوية 0–3). ويؤدي -Cr, --cpu-range الغرض نفسه بصيغة مألوفة، مثل 0-7.

أما --cpu-strict فيثبّت الخيوط على الأنوية بصرامة. نظريًا يقلل هذا زمن التأخير ويستفيد أكثر من الذاكرة المخبئية، لكن الفرق عمليًا يكون عادة ضئيلًا. وقد يضر أحيانًا: فإذا شغلت عملية أخرى النواة المثبَّتة، ينتظر الخيط تفرّغها بدل أن ينتقل إلى نواة حرة.

ويحدد --prio أولوية العملية من low (-1) إلى realtime (3). والخيار الأفضل لمعظم المهام هو 0، أما realtime فقد يُبطئ النظام نفسه بشكل ملحوظ. وقد تلزم صلاحيات المسؤول للقيم 1–3، وإلا تجاهل llama.

cpp العلم. ويحدد --poll (من 0 إلى 100، والافتراضي 50) المدة التي ينتظر فيها الخيط عملًا جديدًا انتظارًا نشطًا. القيمة صفر تخفف الحمل، والمئة تسرّع الاستيقاظ، لكن الفرق في حدود أجزاء من الثانية لكل رمز.

لكل هذه المعاملات نسخ «خاصة بالدفعات»: --cpu-mask-batch و--cpu-range-batch و--cpu-strict-batch و--prio-batch و--poll-batch. وهي تعمل بالطريقة نفسها لكن في مرحلة prefill فقط، وترث افتراضيًا قيم الأعلام الأساسية.

السياق والدفعات والذاكرة

هذه المجموعة هي الأهم عمليًا. يحدد -c, --ctx-size طول السياق. قيمته الافتراضية 0 (تؤخذ من النموذج)، لكن من المجدي تصغيره في المحادثات القصيرة واستدعاءات الأدوات لتوفير الذاكرة. ويقيّد -n, --predict عدد الرموز الجديدة، وقيمته الافتراضية -1 (حتى رمز الإنهاء). وفي llama-completion توجد أيضًا القيمة -2، وعندها يستمر التوليد حتى يمتلئ السياق.

يحدد -b, --batch-size (الافتراضي 2048) الحجم المنطقي للدفعة، أي الأجزاء التي يُقسَّم إليها prefill الطويل. ويحدد -ub, --ubatch-size (الافتراضي 512) الدفعة الدقيقة الفيزيائية التي تُرسَل فعليًا إلى المعالج أو وحدة معالجة الرسوميات. ولا ينبغي أن تتجاوز الدفعة المنطقية. ويحتفظ --keep بأول N رمزًا، مثل موجّه النظام، عندما يمتلئ السياق ويبدأ llama.cpp بإزاحة النافذة. والقيمة -1 تحتفظ بالموجّه الأصلي بأكمله. ويفعّل --swa-full الذاكرة المؤقتة الكاملة للنماذج ذات نافذة الانتباه المنزلقة، مثل Gemma 2 وGemma 3. الجودة والتوافق نظريًا أفضل، لكن الذاكرة المطلوبة أكبر بكثير. ويسرّع -fa, --flash-attn (on/off/auto، والافتراضي auto) حساب الانتباه ويوفر الذاكرة. ويجب تفعيله عند تكميم الذاكرة المؤقتة V، ويُستحسن عند تكميم الذاكرة المؤقتة K.

الموجّهات والخيارات المساعدة

يحدد -p, --prompt أول رسالة للمستخدم (أما رسالة النظام فتُحدَّد منفصلة عبر -sys). ويأخذ -f, --file الموجّه من ملف، بينما يقرأه -bf, --binary-file بايتًا ببايت دون تحويل، وهذا نادر الحاجة. ويفعّل --perf و--no-perf قياسات التوقيت الداخلية في libllama: زمن التحميل وprefill والرموز في الثانية. ويتحكم -e, --escape في معالجة التسلسلات مثل \n، بينما يمررها --no-escape كنص عادي. ينقطع النص الأصلي عند وصف هذا العلم، ولذلك لم تُحلَّل بقية معاملات الدليل هنا.

ما الذي يستحق الأخذ به

خلاصة الكاتب صريحة: كثير من أعلام المعالج لا يعطي إلا مكسبًا صغيرًا، ويجب فحصها على عتادك. والأثر الحقيقي يأتي عادة من السياق والدفعات وFlash Attention وعدد الخيوط. أما الباقي فالأفضل تركه على القيم الافتراضية، وعدم تفعيل الأولوية realtime إطلاقًا.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول أعلام الخدمة والذاكرة المؤقتة؟

يبدأ دليل المساعدة بأوامر مساعدة. يطبع -h, --help, --usage جميع المعاملات مع قيمها الافتراضية ومتغيرات البيئة. ويعرض --version رقم الإصدار وبيانات البناء، ومنها يمكن التحقق من وجود دعم CUDA. ويطبع --license تراخيص llama.cpp وتبعياته، غير أن هذا العلم لم يعد موجودًا في الإصدارات الأحدث. ويعرض -cl, --cache-list النماذج المخزنة في ذاكرة القرص المؤقتة. ولا تصل النماذج إلى هذه الذاكرة إلا عند تنزيلها عبر -mu, --model-url؛ أما إن وصلتَ الملفات بمسار مباشر فستكون القائمة فارغة.

ما أبرز التفاصيل حول الخيوط وأنوية المعالج وأولوياته؟

أكبر مجموعة أعلام تخص المعالج. يحدد -t, --threads عدد الخيوط المستخدمة في التوليد، وقيمته الافتراضية -1 (اختيار تلقائي). ويحذّر الكاتب من أن التوليد مقيَّد بعرض نطاق الذاكرة، ولذلك يتلاشى المكسب بعد عدد معين من الخيوط، وقد تُبطئ الخيوط الزائدة العمل. وثمة رأي بأن الأفضل في معالجات Ryzen تحديد الأنوية الفيزيائية، وفي Intel الأنوية المنطقية، لكن هذا يستلزم التجربة على عتادك. ويتحكم -tb, --threads-batch في معالجة الموجّه الوارد (prefill). وهو يتوسع جيدًا مع عدد الخيوط، لذا فالأمثل هنا عدد أكبر.

ما أبرز التفاصيل حول السياق والدفعات والذاكرة؟

هذه المجموعة هي الأهم عمليًا. يحدد -c, --ctx-size طول السياق. قيمته الافتراضية 0 (تؤخذ من النموذج)، لكن من المجدي تصغيره في المحادثات القصيرة واستدعاءات الأدوات لتوفير الذاكرة. ويقيّد -n, --predict عدد الرموز الجديدة، وقيمته الافتراضية -1 (حتى رمز الإنهاء). وفي llama-completion توجد أيضًا القيمة -2، وعندها يستمر التوليد حتى يمتلئ السياق. يحدد -b, --batch-size (الافتراضي 2048) الحجم المنطقي للدفعة، أي الأجزاء التي يُقسَّم إليها prefill الطويل.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…