التدريب

نقطة تفتيش النموذج (Model Checkpoint)

نقطة تفتيش النموذج هي لقطة محفوظة من أوزان الشبكة العصبية وحالة الأمثلية في نقطة محددة أثناء التدريب، مما يسمح باستئناف العمل بعد فشل الأجهزة واختيار أفضل نسخة أداء عبر خطوات التدريب.

نقطة تفتيش النموذج هي ملف مسلسل أو مجموعة من الملفات التي تسجل الحالة الكاملة للشبكة العصبية في خطوة تدريب معينة أو حقبة: أوزان النموذج وحالة الأمثلية (بما في ذلك مخازن الزخم وإحصائيات معدل التعلم القابل للتطبيق)، موضع جدول معدل التعلم الحالي وفهرس الخطوة أو الحقبة. يعتبر حفظ نقاط التفتيش على فترات منتظمة ممارسة قياسية في أي عملية تدريب تعلم عميق غير تافهة.

تُكتب نقاط التفتيش باستخدام تنسيقات التسلسل الخاصة بإطار العمل. يستخدم PyTorch ملفات .pt أو .pth التي ينتجها torch.save؛ يستخدم TensorFlow دلائل SavedModel أو شظايا .ckpt؛ اعتمد نظام Hugging Face على نطاق واسع على تنسيق safetensors، الذي يحمل بشكل أسرع ويتجنب الثغرات الأمنية للتسلسل القائم على pickle. بالنسبة للنماذج الكبيرة، تتراوح ملفات نقاط التفتيش من بضعة ميجابايت للمصنفات الصغيرة إلى مئات الجيجابايت لنماذج اللغات 70B+ المعامل، وغالباً ما يتم تخزينها كملفات مشظاة عبر تخزين الكائنات الموزعة.

تعمل نقاط التفتيش على عدة أغراض في الممارسة: تحمل الأخطاء (استئناف عملية تدريب متعددة الأسابيع بعد فشل عقدة دون فقدان كل التقدم)، واختيار النموذج (الاحتفاظ بنقطة التفتيش من الخطوة التي لديها أفضل معيار للتحقق بدلاً من أخذ الأوزان النهائية بعمى)، والنشر (استخدام الأوزان المحفوظة مباشرة كقطعة الاستدلال الإنتاجية). تقويس نقاط التفتيش—حساب المتوسط الحكيم على الأساس لأوزان عدة نقاط تفتيش حديثة—هي تقنية إضافية تُستخدم أحياناً لتحسين التعميم.

اعتباراً من 2026، يستضيف مركز Hugging Face ملايين نقاط تفتيش النموذج العامة، مما يجعل مشاركة نقاط التفتيش المعيار الواقعي لتوزيع النموذج والقابلية للتكرار. توفر منصات التدريب السحابية مثل AWS SageMaker و Google Vertex AI و Azure ML إدارة نقاط تفتيش مدمجة مع الحفظ الدوري التلقائي لتخزين الكائنات مثل S3 أو GCS. بالنسبة للنماذج الكبيرة جداً، يمكن أن يصبح الوقت اللازم لكتابة وإعادة تحميل نقطة تفتيش نفسه عنق الزجاجة، مما يحفز العمل على التفتيش غير المتزامن وحفظ دلتا الزيادي.

مثال

أثناء عملية ضبط دقيق لمدة أسبوع لنموذج لغة بـ 13B-معامل، يتم حفظ نقاط التفتيش كل 500 خطوة تدريب إلى التخزين السحابي؛ عندما يفشل عقدة GPU في الخطوة 3,200، تستأنف العملية من نقطة التفتيش للخطوة 3,000 بدلاً من البدء من الصفر.

مصطلحات مرتبطة

← المسرد