نموذج لغة صغير (Small Language Model - SLM)
نموذج لغة صغير (SLM) هو نموذج لغة مع عدد معاملات مضغوط—عادة 1 إلى 13 مليار معامل—مُحسّن للاستدلال الفعال على أجهزة المستهلكين أو الأجهزة الحدية أو خوادم وحدة معالجة رسومات واحدة بدلاً من نشرات مراكز البيانات الكبيرة.
نماذج اللغة الصغيرة (SLMs) هي نماذج لغة مصممة لتقديم فهم وتوليد نصوص مفيد ضمن ميزانيات حساب وذاكرة محدودة. بينما لا يوجد حد معامل صارم يحدد الفئة، تُوصف النماذج في الحجم الذي يتراوح تقريباً من 1 إلى 13 مليار معامل على أنها صغيرة نسبة لأنظمة الحدود التي تتجاوز 100 مليار معامل. تشمل الأمثلة البارزة عائلات Phi-3 و Phi-4 من Microsoft (معاملات 3.8B إلى 14B)، و Gemma 2 من Google (متغيرات 2B و 9B)، والنماذج الموجودة على الجهاز من Apple التي تعمل بتقنية Apple Intelligence (يُقدّر بـ 3B معامل)، و مستويات 1B و 3B من LLaMA 3.2 من Meta.
تحقق SLMs أداء تنافسية نسبة إلى حجمها من خلال عدة تقنيات. يمكن للبيانات التدريبية المنسقة عالية الجودة—النصوص المصنعة بأسلوب الكتب المدرسية، والكود، وأمثلة التفكير المنظمة—أن تفوق البيانات المكشوفة بضوضاء على الويب لنفس حجم النماذج، وهي النتيجة التي أعلنتها أبحاث Microsoft Phi بدءاً من 2023. يقوم نقل المعرفة بنقل التمثيلات من نموذج معلم أكبر إلى نموذج طالب أصغر، مما يضغط القدرة. يقلل تكميم ما بعد التدريب الدقة العددية من عائمات 16-bit إلى أعداد صحيحة 4-bit أو 8-bit، مما يقلل بصمة الذاكرة بمعامل 2–4x مع فقدان دقة ضئيل. تقلل المعماريات الفعالة مثل الانتباه المجموعة والانتباه بالنافذة المنزلقة من تكلفة الاستدلال أيضاً.
الأهمية العملية لـ SLMs هي مرونة النشر والخصوصية البيانات. يزيل تشغيل الاستدلال محلياً تأخير جولة API، يتجنب نقل بيانات حساسة للمستخدم إلى خوادم خارجية، يزيل الاعتماد على اتصالية الإنترنت، ويزيل تكاليف API لكل رمز بحجم كبير. تعتبر هذه الخصائص مهمة للتطبيقات الموارد البشرية مع قيود إدارة البيانات، والتطبيقات الاستهلاكية على الهواتف المحمولة والحواسيب الشخصية، والسيناريوهات الحساسة للزمن مثل مساعدة الكتابة في الوقت الفعلي، وحالات الاستخدام في المناطق ذات البنية التحتية للاتصالية المحدودة.
بحلول 2026، تشحن كل شركة تطوير ذكاء اصطناعي رئيسية SLMs كمنتجات من الدرجة الأولى. يعمل Apple Intelligence على مهام اللغة على iPhones و Macs باستخدام نماذج موجودة على الجهاز دون إرسال موجهات إلى السحابة. يتم دمج نماذج Phi-4 من Microsoft في أدوات المطورين و Windows Copilot. انخفضت الفجوة النوعية بين SLMs والنماذج الكبيرة بشكل كبير للمهام المنظمة—التلخيص واستخراج المعلومات وإكمال الكود والتصنيف—بينما لا يزال المنطق المتعدد الخطوات المعقد والمعرفة العالمية الواسعة يفضل الأنظمة الأكبر. تمكّن SLMs الموجودة على الجهاز أيضاً التخصيص من خلال الضبط الدقيق المحلي على بيانات المستخدم دون أي بيانات تترك الجهاز.