Apple ML Research تطور DynaMiCS لضبط النماذج اللغوية الكبيرة دون فقدان المعرفة الأساسية

نشرت Apple ML Research دراسة في 7 يوليو 2026 تصف DynaMiCS — طريقة لتحسين ديناميكي لخليط البيانات عند ضبط نماذج اللغة الكبيرة على عدة مجالات بشكل متزامن. يعالج العمل أحد التحديات العملية الأساسية في تطوير LLM: كيفية تخصيص نموذج للمهام المحددة دون تدهور القدرات الأساسية الرئيسية — اتباع التعليمات والمعرفة العامة والأمان.

لماذا الطرق الموجودة لا تعمل

ضبط LLMs على عدة مجالات بشكل متزامن هي مهمة روتينية لأي مختبر ينتج منتجات ذكاء اصطناعي. تبدو المهمة بسيطة: تحسين النموذج في المجالات المستهدفة (على سبيل المثال، في الطب أو القانون)، مع الحفاظ على ما يسمى "المجالات المقيدة" — القدرات الأساسية التي لا يمكن تدهورها تحت أي ظرف من الظروف.

في الواقع العملي، يثبت أن هذا توازن صعب. توفر استراتيجيات خلط البيانات الحالية حلين غير مرضيين. الخيار الأول هو اكتشافات ثابتة: نسب بيانات محددة مسبقاً حسب المجال تبقى ثابتة طوال التدريب ولا تستجيب للحالة الحالية للنموذج. الخيار الثاني هو قواعد تكيفية: خوارزميات تضبط الأوزان بناءً على إشارات المقاييس، لكن بدون ضمانات رسمية صريحة.

لا يمكن لأي نهج أن يضمن صراحةً الحفاظ على المجالات المقيدة على مستوى محدد. نتيجة لذلك، تبحث الفرق إما يدويًا من خلال النسب أو تقبل خسائر لا يمكن التنبؤ بها في معايير الأمان واتباع التعليمات الرئيسية.

كيف يعمل DynaMiCS

يعيد DynaMiCS صياغة الضبط كـ مشكلة تحسين مقيدة. بدلاً من تحديد المقايضات بين المجالات بناءً على الخسارة الإجمالية أو الأوزان اليدوية — تفصل الخوارزمية بوضوح الأهداف والقيود.

في كل خطوة تدريب، يعمل DynaMiCS في ثلاث مراحل:

• يشغل "جولات سبر" قصيرة على كل مجال، ويقيم الديناميكيات المحلية للمقاييس.
• يبني مصفوفة منحدرات — تقدير لكيفية تأثير تغيير حصة البيانات لمجال محدد على المقاييس عبر جميع المجالات الأخرى.
• يحل مشكلة التحسين: العثور على نسبة بيانات تحسن المجالات المستهدفة بشكل أقصى مع فرض قيود صارمة على المجالات المقيدة.

تكمن الابتكار الأساسي في القيود الرياضية الصريحة بدلاً من التنظيم الناعم. الخوارزمية لا "تحاول" الحفاظ على الأمان أو التعليمات — بل تضمنها رسمياً في كل تكرار. جولات السبر سريعة ولا تتطلب دورة تدريب كاملة، مما يجعل الطريقة قابلة للتطبيق بشكل عملي دون زيادات كبيرة في التكاليف الحسابية.

حيث ينطبق هذا

تنشأ المهمة التي يحلها DynaMiCS في كل مرة تقوم فيها الشركة بتكييف نموذج أساسي لمنتج معين:

• اتباع التعليمات — قدرة أساسية لا يمكن تدهورها حتى مع التخصص الضيق.
• المعرفة العامة — يجب أن يجيب المساعد بشكل صحيح على الأسئلة خارج مجاله المتخصص.
• الأمان — يجب الحفاظ على نتائج تقييمات الأمان أثناء أي ضبط، خاصة في الصناعات المنظمة.

بالنسبة لـ Apple، التي تقوم بنشاط بدمج نماذج اللغة في Apple Intelligence — طبقة ذكاء النظام لـ iPhone و iPad و Mac — فإن مثل هذه الأداة لها قيمة عملية مباشرة. يجب أن تتخصص النماذج لمهام تطبيقات محددة مع الحفاظ على الشمولية واجتياز فحوصات الأمان الداخلية. يقدم DynaMiCS طريقة رسمية لضمان كلا المتطلبين بشكل متزامن.

النهج ذو صلة خارج Apple: أي شركة تقوم بتكييف النماذج لمهام المؤسسات ذات المتطلبات الصارمة للأمان والتعليمات تواجه نفس مشكلة التوازن.

ماذا يعني هذا

يقدم DynaMiCS نهجًا صارمًا رياضيًا لمشكلة حلتها معظم فرق ML يدويًا أو من خلال التجربة والخطأ. يُظهر نشر Apple ML Research أن العمل على البنية التحتية للضبط يستمر حتى في الشركات التكنولوجية الكبيرة ذات النماذج المغلقة. إذا كانت الطريقة قابلة للتكرار وتتوسع لأحجام نماذج حقيقية، فيمكن أن تصبح ممارسة معيارية في الشركات التي تعمل مع LLMs متعددة المجالات والمتطلبات الصارمة لجودة القدرات الأساسية.