Qwen3-8B على NPU في Intel Core Ultra 5 226V: 10,7 رمز/ث عند 15 واط وضجيج 24 ديسيبل

تسمّي Intel في تسويقها معالجات Core Ultra «حواسيب ذكاء اصطناعي»، لكن سيناريوهات الاستخدام الفعلية لـNPU عادةً اثنان فقط: تمويه الخلفية في مكالمات الفيديو وCopilot. قرر مؤلف التحليل على Habr أن يختبر شيئًا آخر: هل يمكن تشغيل LLM كاملة على NPU، وكم رمزًا في الثانية ستنتج، وكم من الطاقة ستستهلك. وكان حقل التجربة الحاسوب المصغّر Ninkear L20 بمعالج Intel Core Ultra 5 226V وذاكرة 16 ГБ من نوع LPDDR5X-8533 ونطاق استهلاك عامل يتراوح بين 17 و37 واط. الجواب: يعمل Qwen3-8B بضغط 4 بت على NPU بسرعة 10,7 رمز في الثانية عند 15,4 واط للشريحة كاملة.

ثلاث وحدات حوسبة على ناقل ذاكرة واحد

تضم Lunar Lake ثلاث وحدات للشبكات العصبية. المعالج CPU بثمانية أنوية (4 للأداء و4 لكفاءة الطاقة) متعدد الاستخدامات، لكنه بطيء في الشبكات العصبية. أما وحدة الرسوميات المدمجة iGPU من نوع Intel Arc 130V على معمارية Xe2 مع ضرب مصفوفات عتادي، فهي الأسرع مع النماذج الكبيرة. وأما NPU من الجيل الرابع Intel AI Boost فتعلن Intel قدرته بـ40 TOPS، ويحسب بصيغتَي INT8 وFP16 على تردد وجهد منخفضين، لكنه لا يدعم الأشكال الديناميكية، ويستغرق التجميع وقتًا طويلًا، ولا يدعم كل العمليات. الذاكرة العشوائية مشتركة بين الجميع، فلا حاجة إلى نسخ النموذج بين الأجهزة، لكن الناقل واحد، ويظهر أثر ذلك بوضوح عند العمل المتزامن.

الرموز والجول وهزيمة NPU الصريحة

الاختبار: Qwen3-8B بصيغة INT4، وOpenVINO GenAI 2026.4، وموجّه من 77 رمزًا، وإجابة من 256 رمزًا، وتوليد جشع (greedy)، وتُحتسب نتيجة التشغيل الثاني. قيست الطاقة عبر عدّاد RAPL للشريحة كاملة.

• التوليد: NPU بسرعة 10,7 رمز/ث، وGPU من نوع Arc 130V بسرعة 21,2 رمز/ث، وCPU بسرعة 10,0 رمز/ث
• الرمز الأول: NPU خلال 1,7 ثانية، وGPU خلال 0,17 ثانية، وCPU خلال 0,46 ثانية
• قراءة موجّه من 1329 رمزًا: NPU بسرعة 360 رمز/ث، وGPU بسرعة 117 رمز/ث، وCPU بسرعة 130 رمز/ث
• استهلاك الشريحة: NPU عند 15,4 واط، وGPU عند 20,6 واط، وCPU عند 16,0 واط
• الطاقة لكل رمز: NPU بـ1,52 جول، وGPU بـ1,01 جول، وCPU بـ1,64 جول

يقرّ المؤلف صراحةً بأن وحدة الرسوميات أسرع بمرتين وأكثر اقتصادًا في الطاقة لكل رمز. في مهمة من 10 000 رمز (15-20 صفحة) يستغرق NPU 15,6 دقيقة ويستهلك 4,2 واط·ساعة، بينما تستغرق وحدة الرسوميات 7,9 دقيقة وتستهلك 2,8 واط·ساعة. والفارق البالغ 1,4 واط·ساعة أقل من شحنة هاتف واحد. يعادل المعالج NPU في التوليد، لكنه يقرأ الموجّه الطويل أبطأ بـ12 مرة. وبحسب تقدير المؤلف، فإن الحاسوب المصغّر أكثر اقتصادًا في الطاقة لكل رمز بمرتين إلى 3 مرات من حاسوب مزوّد بـRTX 5070 Ti.

أين تبرز الحاجة إلى NPU

تكمن قوة NPU في العمل الخلفي. فهو يضيف إلى استهلاك الخمول 1-2 واط في المهام الخلفية، وعند تحميل NPU بنسبة 99% يكون المعالج مشغولًا بنسبة 7% ووحدة الرسوميات بنسبة 2%. ولا تتسارع المروحة: 22-24 ديسيبل مقابل 33-34 ديسيبل عند عمل وحدة الرسوميات والمعالج. وإذا شُغّلت شبكتان عصبيتان على وحدة رسوميات واحدة، تتباطأ كل منهما إلى النصف. أما إذا نُقل الـLLM إلى NPU، فتحتفظ الشبكة العصبية على وحدة الرسوميات بنسبة 92% من سرعتها. وتستهلك الوحدات الثلاث معًا 27,5 واط عند تحميل NPU بنسبة 75% ووحدة الرسوميات بنسبة 92% والمعالج بنسبة 62%.

الإعداد والعقبات الخفية

تعتمد المنظومة على OpenVINO: تثبيت برامج التشغيل (لدى المؤلف NPU بالإصدار 32.0.100.5540، ووحدة الرسوميات بالإصدار 32.0.101.8331)، وPython 3.12، وحزم openvino وopenvino-genai وnncf وhuggingface_hub. يحتاج NPU إلى نماذج بلاحقة -int4-cw-ov: أوزان متماثلة بـ4 بت بمقياس واحد لكل قناة. وفي GenAI يكفي ضبط MAX_PROMPT_LEN وMIN_RESPONSE_LEN. التجميع الأول طويل: 97 ثانية لـQwen3-8B، و30-40 ثانية لـDepth Anything، و12 دقيقة لـESRGAN. ومع CACHE_DIR يستغرق التشغيل التالي لـQwen3-8B مدة 14,6 ثانية.

كانت التجربة مع Qwen3-TTS (1,7 مليار معامل) أكثر إثارة. فالجزء الرئيسي ومرمّز الصوت (vocoder) لا يقبلهما NPU بسبب الأشكال الديناميكية وKV-cache، لكن متنبّئ الرموز (code predictor)، الذي يُستدعى 15 مرة لكل إطار، أعاد المؤلف تصديره بصيغة ثابتة (المُدخل 1×16×2048)، فاشتغل. أما سرعة RTF: فكل شيء على وحدة الرسوميات 1,73، ووحدة الرسوميات مع NPU من 2,0 إلى 2,1، والمعالج مع NPU 6,7، والمعالج وحده من 8,8 إلى 9,9. وبلغ وضوح الكلام بحسب Whisper ما بين 95% و100%.

في إضافات Intel لبرنامج GIMP 3، يصلح NPU للدقة الفائقة Super Resolution (نموذج sr_1033 خلال 46 مللي ثانية، وESRGAN ×4 خلال 1,2 ثانية) ولتجزئة الصور deeplabv3 (19,5 مللي ثانية)، لكن SD 1.5 وSDXL Inpainting لا يُجمَّعان عليه، ويعطي sseg-adas-0001 نتيجة خاطئة.

الخلاصة العملية

لا يحلّ NPU في Lunar Lake محل وحدة الرسوميات: فللدردشة التفاعلية تبقى Arc 130V الأفضل. لكنه في المعالجة الدفعية الليلية للصور، وتلخيص المستندات، وقراءة الكتب صوتيًا، والوكلاء العاملين في الخلفية، يتيح العمل بهدوء شبه تام، مع إضافة 1-2 واط فقط فوق استهلاك الخمول، ودون شغل GPU وCPU. والشرط الأساسي: إعداد النماذج لأشكال ثابتة واستخدام ذاكرة التجميع المؤقتة.