النماذج القزمة: كيف توفّر الشركات تكاليف الذكاء الاصطناعي بتخصيص نماذج لغوية صغيرة

التدريب الدقيق للنماذج اللغوية الصغيرة لمهمة ضيقة يحلّ محل واجهات برمجة التطبيقات السحابية. فبدلًا من فواتير شهرية تتراوح بين 7000 و 12000 دولار، تدفع Checkr نحو 1400 دولار فقط. وحققت PayPal، باستخدام نموذج بحجم 8 مليارات معلمة، نفس جودة GPT-4، لكن بتكلفة 0.013 دولار للاستدعاء الواحد بدلًا من 0.025 إلى 0.055 دولار. وعند حجم 100000 طلب شهريًا، يتحول هذا الفرق إلى بند كامل في الإيرادات.

النماذج القزمة وأساليب ضغطها

لا يوجد تعريف دقيق للحد الفاصل، لكن تعريف NVIDIA مفيد: النموذج اللغوي الصغير هو ذلك الذي يمكن تشغيله على جهاز استهلاكي ويخدم الطلبات بزمن استجابة مقبول. وبحلول عام 2025، يشمل ذلك النماذج التي لا تتجاوز 10 مليارات معلمة. وتضم الخيارات الحالية:

• Gemma 4 (Google) • Phi-4 (Microsoft) • Qwen3 (Alibaba) • SmolLM3 (HuggingFace) • Granite 4.1 (IBM) • Nemotron 3 Nano (NVIDIA)

هناك تقنيتان تسمحان بضغط النموذج اللغوي الكبير ليناسب مهمة محددة. تقنية LoRA تُجمّد الأوزان الأساسية وتدرّب فقط مصفوفات إضافية صغيرة، وهذا يعطي عدد معلمات قابلة للتدريب أقل بـ 10000 مرة من التدريب الدقيق الكامل. أما التقطير فينقل سلوك نموذج معلّم كبير إلى نموذج صغير: أظهرت دراسة لـ Google (ACL Findings 2023) أن نموذج T5 بحجم 770 مليون معلمة تفوّق على نموذج PaLM بحجم 540 مليار معلمة في وضع التعلم من أمثلة قليلة (few-shot) في اختبار ANLI، شرط ألّا يتعلم الإجابات الصحيحة فقط، بل أيضًا «استدلالات» النموذج الكبير.

لماذا تحتاج الشركات إلى ذلك

التكلفة وزمن الاستجابة. مع ملايين الطلبات المتكررة، يتحول الفرق في السعر لكل استدعاء إلى بند في الموازنة. تزعم Checkr توفيرًا بمقدار 5 مرات، وحققت PayPal خفضًا في التكلفة من 0.025-0.055 دولار إلى 0.013 دولار لكل تقييم. وعلى مستوى السرعة: تزعم Predibase تسريعًا بمقدار 30 مرة، وتذكر Computerworld أن GPT-4 يستغرق 15 ثانية في مقابل 0.15 ثانية للنموذج المدرَّب دقيقًا.

الخصوصية والاستقلالية. يمكن تشغيل النموذج الصغير على خوادم خاصة. فلا تخرج البيانات إلى خدمة خارجية، ولا يعتمد النظام على مزوّد واحد. وحظر حساب ما لا يوقف العملية.

صيغة متوقعة. النموذج المدرَّب دقيقًا يجيب دائمًا بالطريقة نفسها، وهذا أمر بالغ الأهمية للأتمتة. وحققت PayPal نسبة 100% من ملفات JSON الصالحة في جميع عمليات فحص نصوص المحادثات المفرَّغة.

خطة التطبيق من خمس خطوات

الخطوة 1: نموذج أولي باستخدام نموذج رائد. حدِّد المهمة وصيغة الإجابة والأخطاء النمطية. تحقّق مما إذا كانت التوجيهات (prompt) مع الاسترجاع المعزَّز (RAG) كافية. وكل إجابة تم تصحيحها يدويًا تمثّل مثالًا تدريبيًا محتملًا.

الخطوة 2: أمثلة مُصنَّفة من بيانات حقيقية. استخدم طلبات حقيقية وإجابات موثَّقة من خبير. وجمِّع الحالات الصعبة بشكل منفصل: أضافت PayPal فقط 20 مثالًا سلبيًا، ورفعت الدقة في الحقل المعقَّد إلى 100%.

الخطوة 3: تدريب دقيق مع التوقف عند التحقق. أوقف التدريب بناءً على مقياس على بيانات محجوزة، لا بناءً على عدد الدورات (epochs). ولاحظت PayPal، عند التدريب على 188 مثالًا، حدوث فرط ملاءمة (overfitting) في الخطوة 60.

الخطوة 4: فحوصات صارمة. أضف طبقة من القواعد للصيغة والقيم المسموح بها والحقول الإلزامية. والقواعد القائمة على التعبيرات النمطية (regex) هشّة، لكن قاعدة واحدة واضحة أفضل من الاعتماد على النموذج وحده.

الخطوة 5: فحص بشكل عشوائي على بيانات جديدة. لا يجب أن يكون النموذج قد رأى هذه البيانات أثناء التدريب. ويقيّم النتيجة خبير بشري، لا نموذج آخر. واستخدمت PayPal 53 نصًا مستقلًا من نصوص المحادثات المفرَّغة.

ما ينبغي مراقبته بعد الإطلاق

ضبط النموذج ليس نهاية المسار بل بداية حياته في بيئة الإنتاج. فالنموذج الضيق المتخصص هشّ خارج حدود بيانات تدريبه، ولهذا تلزم رقابة مستمرة: نسبة الطلبات التي لا تشبه بيانات التدريب؛ نسبة التصحيحات اليدوية (وهي إشارة تدهور تظهر قبل أي مقياس آخر)؛ مجموعة اختبار انحداري ثابتة عند كل تعديل؛ وحالة القواعد الصارمة مع سجل للحالات المشكوك فيها للجولة التدريبية التالية.