وحدات NPU في الحواسيب المحمولة: متطلبات جديدة لتقنية المعلومات في الشركات

تفقد السحابة احتكارها لحوسبة AI تدريجيًا. فقد أدرجت Microsoft المعالج العصبي ضمن المتطلبات الإلزامية لحواسيب Copilot+ PC، فيما تدمج AMD وIntel وحدات NPU مباشرة في شرائح SoC. وهكذا تجد تقنية المعلومات في الشركات نفسها أمام خيار لم يكن مطروحًا من قبل.

ثلاثة معالجات في شريحة واحدة

تحتوي شرائح SoC الحديثة، مثل AMD Ryzen AI 300 وIntel Core Ultra، على ثلاث وحدات حوسبة: وحدة CPU التقليدية، ووحدة GPU، ووحدة NPU. يبدو الأمر بسيطًا نظريًا، لكن المعالج العصبي مختلف تمامًا عن غيره. فوحدة NPU مُحسَّنة للعمليات المصفوفية، وتعمل الشبكات العصبية عليها بسرعة أكبر مما تعمل على وحدة GPU العامة الغرض. لكن ذلك يصح فقط إذا كان حجم النموذج أصغر من الذاكرة المحلية. فقد خصصت AMD وIntel لوحدة NPU ما لا يزيد على 16 ГБ من VRAM (أو أقل)، بينما تتشارك وحدة GPU الذاكرة الرئيسية للنظام في الحاسوب المحمول.

ويظهر هذا التنازل في اختبارات الأداء. فقد ولّدت وحدة NPU في AMD Ryzen AI 300 صورة في 70 ثانية، بينما أنجزت وحدة GPU المدمجة في الشريحة نفسها المهمة في 30 ثانية. أي أن المعالج المتخصص خسر أمام المعالج العام بفارق الضعف، وفي مهمة صُمم أصلًا لأدائها.

العنق الزجاجي هو الذاكرة. فعندما يكون النموذج أكبر من سعة وحدة NPU، يتحول المعالج العصبي من مسرِّع إلى عنق زجاجي بدل أن يسرّع العمل.

بنية هجينة لتقنية المعلومات في الشركات

السيناريو الرئيسي الذي تروّج له Microsoft وشركاؤها:

• مهام AI الخفيفة (التصنيف، والبحث، وتوليد النصوص القصيرة) تُنفَّذ محليًا على NPU
• النماذج المعقدة (LLM الكبيرة، ومعالجة الفيديو) تعمل في السحابة
• تبقى البيانات جزئيًا على الجهاز، وتُزامَن جزئيًا
• منطق تفريغ الحمل (offload) مدمج في التطبيق

وهذا يعني تحديات جديدة لتقنية المعلومات في الشركات. ففي السابق كان يكفي إطلاق خدمة سحابية ثم نسيانها. أما الآن فعلى الشركات أن تقوم بما يلي:

إدارة النماذج على الأجهزة. يتلقى كل حاسوب محمول مجموعة من نماذج ONNX أو TensorFlow. وقد تتباين الإصدارات بين الأجهزة، وتُنزَّل التحديثات عبر الإنترنت. وعلى مستوى 50K حاسوب محمول في شركة واحدة، يصبح الأمر مسألة لوجستية.

التحكم في الذاكرة. إذا لم يتسع النموذج في 16 ГБ الخاصة بوحدة NPU، ينهار التطبيق. وكان مهندس السحابة يحل هذه المسألة سابقًا مرة واحدة. أما الآن فتلزم خوارزمية على جهاز العميل تختار النموذج بحسب إعدادات الجهاز.

مراقبة البطارية. تستهلك وحدة NPU طاقة أقل من GPU، لكن المكسب أقل مما يبدو للوهلة الأولى.

ما الذي يعمل فعليًا الآن

تتسع النماذج اللغوية الصغيرة (مثل Phi-3.5 بحجم 3.8B معامل) بالكامل في الحاسوب المحمول. ويجري الاستدلال (inference) على وحدة NPU في زمن مقبول. لكن ذلك يصح فقط على مهام القراءة والتصنيف. أما توليد النصوص على نموذج Llama-2-7B الكامل فلا يزال بطيئًا.

ويُعد Copilot for Microsoft 365 المستفيد الرئيسي. فالبحث في المستندات، وتلخيص الرسائل، وترتيب الاجتماعات، كلها تعمل محليًا. وتعد Microsoft بأن ذلك سيحسّن الخصوصية (إذ لا تغادر البيانات إلى السحابة) والسرعة (إذ لا توجد تأخيرات شبكية).

ماذا يعني ذلك

تفوّق مصنّعو الحواسيب المحمولة في أسواق متخصصة. وحصلت تقنية المعلومات في الشركات على أداة يجب تعلّم استخدامها. وبدأ الأكثر جرأة بإعداد منصات لتوزيع النماذج، بينما ينتظر الباقون حتى يصبح الأمر أبسط. ولن تغيب السحابة عن المشهد، فالمستقبل الهجين يشمل الجزأين بحكم التعريف.