تبدأ 23 نوفمبرالدفعة المباشرة 3 من Vibe Coding ووكلاء الذكاء الاصطناعي: 3 أسابيع و9 جلسات حيةالدفعة 3 (23.11) →
إصدارتحليل · على الرادارMarkTechPost→ المصدر

NVIDIA تعرض مسارًا متكاملًا لتحسين النماذج باستخدام FastNAS pruning وfine-tuning

نشرت NVIDIA دليلًا تفصيليًا حول Model Optimizer، يبني داخل Google Colab دورة كاملة لتحسين النموذج: تدريب ResNet20 على CIFAR-10، ثم FastNAS pruning ضمن حد أقصى قدره 60 مليون FLOPs، يليه fine-tuning. تكمن فائدة المادة في أنها لا تعرض حيلة منفردة، بل مسارًا هندسيًا قابلًا للتكرار: حفظ نقاط التحقق (checkpoints)، واستعادة النموذج المقلَّم، ومقارنة الدقة قبل الضغط وبعده.

معالج بواسطة الذكاء الاصطناعي من MarkTechPost؛ بتحرير Hamidun News
NVIDIA تعرض مسارًا متكاملًا لتحسين النماذج باستخدام FastNAS pruning وfine-tuning
المصدر: MarkTechPost. كولاج: Hamidun News.
استمع للمقال

أصدرت NVIDIA دليلًا عمليًا يعرض دورة كاملة لتحسين الشبكة العصبية داخل دفتر Google Colab واحد: من التدريب الأساسي إلى التقليم البنيوي (structural pruning) ثم إعادة التدريب. وتستخدم الشركة في المثال مكتبتها NVIDIA Model Optimizer ومجموعة البيانات CIFAR-10 ونموذج ResNet20، لتبيّن بالشيفرة الفعلية كيف يمكن خفض العبء الحسابي للشبكة دون أن تتحول العملية إلى مجموعة نصوص برمجية متفرقة وتجارب يدوية.

يبدأ الدليل بتهيئة البيئة وإعداد تجربة قابلة للتكرار. يجري تثبيت nvidia-modelopt وtorchvision وtorchprofile مع الاعتماديات المساعدة، ويُثبَّت random seed ومعاملات التشغيل، ثم يُبنى نمط مبسّط لكنه عملي لبيئة Colab. في هذا النمط، يُضبط batch size على 256، ويُدرَّب النموذج الأساسي 20 epoch، وتستغرق مرحلة fine-tuning بعد التقليم 12 epoch إضافية. ولتسريع التنفيذ تُستخدم مجموعات جزئية من CIFAR-10: 12 ألف صورة للتدريب (train)، وألفا صورة للتحقق (validation)، و4 آلاف صورة للاختبار (test). بعد ذلك يعرّف المؤلفون نموذج ResNet20 يدويًا على PyTorch، مع كتل residual وتهيئة مخصصة للأوزان ومنطق صريح لوصلات shortcut. أي أنهم لا يقدمون «صندوقًا أسود»، بل بنية يمكن تكييفها بسرعة مع مهمتك الخاصة.

ويركّز الدليل بشكل خاص على البنية الهندسية المحيطة بالتدريب. تُطبَّق على بيانات التدريب تقنيات تعزيز بيانات (augmentation) معيارية، منها القص العشوائي بحجم 32x32 والانعكاس الأفقي، بينما يقتصر التقييم على التطبيع (normalization) فقط. ويعتمد التدريب نفسه على SGD مع momentum بقيمة 0.9 وweight decay بقيمة 1e-4 ومجدوِل معدل تعلّم وفق نمط cosine decay مع warmup. وتضم الشيفرة دوال مستقلة لحلقة تدريب epoch واحدة، والتحقق، والاختبار، وحفظ أفضل نقطة تحقق (checkpoint) بحسب دقة التحقق (validation accuracy). وهذه تفصيلة مهمة: فـ NVIDIA لا تعرض أسلوب الضغط وحده، بل مسارًا متكاملًا قابلًا للتكرار، يمكن فيه مراقبة جودة النموذج قبل التحسين وبعده، لا مجرد تشغيل pruning كحيلة لمرة واحدة.

المرحلة المحورية هي FastNAS pruning. يحدد المثال حدًّا أقصى قدره 60 مليون FLOPs، وتُضبط إعدادات البحث بحيث يبقى عدد القنوات والميزات من مضاعفات 16. وتُستخدم دقة التحقق كدالة تقييم (score function)، وقبل التشغيل يعالج المؤلفون بصورة منفصلة مسألة التوافق مع torchprofile ليجري احتساب FLOPs بشكل صحيح في Colab. بعد ذلك يبني Model Optimizer شبكة فرعية أخف، ويحفظها، ويتيح استعادة البنية المحسَّنة للانتقال إلى الخطوة التالية.

يتضح هنا كيف تضع NVIDIA Model Optimizer في موقعه: ليس مجرد مكتبة للتقليم، بل طبقة موحدة لتقنيات تحسين النماذج. فهي تصفه في المستودع الرسمي بأنه مجموعة أدوات لـ pruning وquantization وdistillation وsparsity وأساليب أخرى، يمكن بعدها دمجها في بنية الاستدلال التحتية مثل TensorRT أو TensorRT-LLM أو vLLM.

بعد العثور على الشبكة الفرعية المحسَّنة تبدأ مرحلة fine-tuning. يخضع النموذج المقلَّم المستعاد أولًا لفحص جديد، ثم يُعاد تدريبه بمعدل تعلّم (learning rate) أخف، وفي النهاية تُقارن الدقة قبل التقليم وبعده وبعد إعادة التدريب. كما يُحتسب إجمالي عدد المعاملات وعدد الأوزان غير الصفرية والوقت المستغرق في كل مرحلة: التدريب الأساسي والبحث بـ FastNAS واستعادة الجودة. وتُحفظ كذلك جميع المخرجات الأساسية: baseline state dict ونقطة تحقق البحث (checkpoint) والنموذج المقلَّم والنسخة المحسَّنة النهائية.

وتكمن قيمة ذلك لمهندسي ML الممارسين في أن السيناريو يمكن تكراره تقريبًا دون تعديل على بنية النموذج الخاصة بهم، ودمجه في عملية إعداد النموذج لاستدلال أرخص وأسرع.

الخلاصة الرئيسية أن NVIDIA تجعل تحسين النموذج جزءًا من مسار ML القياسي، لا مهمة منفصلة تُؤجَّل إلى المرحلة الأخيرة قبل النشر. ويكتسب هذا النهج أهمية خاصة اليوم، إذ باتت تكلفة الحوسبة وقيود زمن الاستجابة ومتطلبات نشر النماذج تؤثر في القرارات المعمارية بقدر تأثير الدقة نفسها.

وتنبع فائدة هذه المادة من منطقها التطبيقي تحديدًا: فهي تبيّن كيف يمكن الانتقال من شبكة أساسية كثيفة إلى نسخة أكثر كفاءة عبر عملية واضحة وقابلة للتكرار، يمكن تشغيلها فعليًا حتى في Google Colab.

القصة
ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…