ضبط دقيق لنموذج Gemma 4 باستخدام GPU على Cloud Run: من 89% إلى 94% في تصنيف الحيوانات

يمثّل Gemma 4 الجيل الجديد من النماذج المفتوحة من Google، بقدرات استدلال محسّنة وبنية أكثر كفاءة. حصل النموذج على ترخيص Apache 2.0 وبنية محدّثة تتطلب تعديل منطق التحميل وتحضير البيانات مقارنة بالإصدارات السابقة من Gemma.

التغييرات البنيوية في Gemma 4

أهم التحسينات:

• معالجة أصلية للصور والفيديو والصوت • دعم مدمج لاستدعاء الوظائف وتنسيق JSON المُهيكل • عدد ديناميكي من الرموز (tokens) للمدخلات متعددة الوسائط

يتطلّب Gemma 4 تمرير الصورة قبل النص باستخدام العنصر النائب <image>، الذي يُرشد المعالج إلى موضع إدراج الرموز. تُدمَج التعليمات مع طلب المستخدم ضمن قالب محادثة واحد. وخلافًا لـ Gemma 3، أصبح عدد رموز الصورة الآن ديناميكيًا، لذلك قد يؤدي ترميز النص بشكل منفصل إلى عدم تطابق في الطول. الحل يتمثل في البحث عن رموز الإجابة ضمن المصفوفة الكاملة بدءًا من النهاية، لتحديد حد التمويه (masking) بدقة.

تحسين استخدام الذاكرة على Cloud Run

تعتمد البنية التحتية على معالج NVIDIA RTX PRO 6000 بذاكرة فيديو تبلغ 96 جيجابايت. يستهلك نموذج Gemma 4 بحجم 31 مليار معامل بدقة bfloat16 حوالي 62 جيجابايت من VRAM. تطبيق تقنية التكميم 4-بت عبر QLoRA، باستخدام مكتبة bitsandbytes، يخفض الاستهلاك إلى 18–20 جيجابايت، تاركًا مساحة كافية لمعالجة السياقات الطويلة والبيانات متعددة الوسائط.

نقطة بالغة الأهمية: عند استخدام QLoRA، قد يتجاهل LoRA العادي غلاف النموذج (model wrapper)، مما يؤدي إلى أخطاء. الحل هو تحديد target_modules="all-linear" في معلمات PEFT لتحقيق استقرار عملية التدريب.

النتائج ومعلمات التدريب

بلغت الدقة الأساسية لنموذج Gemma 4 على مجموعة الاختبار 89%. وبعد الضبط الدقيق على مجموعة بيانات Oxford-IIIT Pet الكاملة، ارتفعت الدقة إلى 94%. الضبط المستخدم: Rank 64، وAlpha 64، ومعدل تعلّم 5e-5.

للتشغيل على Google Cloud، يلزم وجود مشروع مفعّل الفوترة، مع تفعيل واجهتَي برمجة Cloud Run وCloud Build، إلى جانب رمز وصول من Hugging Face للوصول إلى أوزان النموذج. يُنصح أولًا باختبار النص البرمجي على المعالج (CPU) باستخدام نموذج بحجم 2 مليار معامل ومجموعة بيانات محدودة قبل التشغيل الكامل.

تُحمَّل أوزان النموذج إلى Google Cloud Storage في المنطقة نفسها التي يعمل فيها Cloud Run، لتسريع العملية. تُبنى الصورة عبر Cloud Build بتحديد المنطقة والمشروع واسم المستودع. وتُنشأ مهمة Cloud Run النهائية بدعم من معالج NVIDIA RTX PRO 6000، مع تثبيت حزمة GCS كقرص محلي، وتمرير المعطيات اللازمة لتشغيل عملية الضبط الدقيق مع مسارات النموذج ودليل الإخراج.