يمكن الآن تدريب النماذج التوليدية من البداية إلى النهاية: السر في حلقة for

يُظهر الباحثون الذين يعرض Jiqizhixin عملهم أن النماذج التوليدية يمكن تدريبها من البداية إلى النهاية (end-to-end)، وهو المبدأ نفسه الذي أحدث ثورة في الرؤية الحاسوبية عام 2012. وقد تبيّن أن الآلية الأساسية بسيطة على نحو مفاجئ: حلقة `for` عادية.

ما الذي أثبته AlexNet في عام 2012

قبل AlexNet، كانت مهام الرؤية الحاسوبية تُحَل عبر خطوط معالجة يدوية متعددة المراحل: كان الباحثون يصمّمون يدويًا كاشفات للحواف والقوام والأشكال، ثم يربطونها في سلسلة متتابعة. وفي عام 2012 أوكل AlexNet العملية بكاملها إلى الشبكة العصبية، فدرّبها على المهمة ككل، وتفوّق على منافسيه في مسابقة ImageNet بفارق تجاوز 10 نقاط مئوية.

ومنذ ذلك الحين انتصر مبدأ التدريب من البداية إلى النهاية في كل مهمة جديدة من مهام الرؤية الحاسوبية:

• عام 2012 — تصنيف الصور: يتفوق AlexNet على الأساليب اليدوية بأكثر من 10%
• 2013–2015 — اكتشاف الأجسام: يحل R-CNN وYOLO محل خطوط المعالجة المركّبة
• 2015–2017 — التجزئة الدلالية: يُدرَّب FCN وU-Net من البداية إلى النهاية

وفي كل مرة تفوّق نظام واحد قابل للتدريب على خط المعالجة اليدوي. والمنطق واحد: بدل تحسين كل مرحلة على حدة، من الأفضل ترك النموذج يبحث عن الحل عبر المهمة كلها.

لماذا بقيت النماذج التوليدية استثناءً

تنتج مولّدات الصور الحديثة، أي نماذج الانتشار، نتيجتها بصورة تكرارية: ففي عشرات أو مئات الخطوات تحوّل الضوضاء العشوائية إلى صورة. أما النماذج ذاتية الانحدار فتعمل بطريقة مختلفة، لكنها تعمل أيضًا خطوة بخطوة، رمزًا تلو الآخر (token تلو token).

كان تمرير التدرّج عبر عملية تكرارية كهذه إما مكلفًا حسابيًا إلى حد يجعله غير ممكن عمليًا، وإما يتطلب حلولًا معمارية خاصة. ونتيجة لذلك جرت العادة على تدريب مكوّنات الأنظمة التوليدية بشكل منفصل، ثم ربطها يدويًا في مرحلة الاستدلال (inference)، وهو بالضبط النهج الذي أثبت AlexNet أنه غير مثالي في مهام التعرّف.

والمشكلة جوهرية: فكل خطوة انتشار تعتمد على الخطوة السابقة، وسلسلة الاعتماديات تصبح ضخمة بسرعة. أما تخزين الرسم البياني الكامل للحسابات من أجل الانتشار العكسي عبر مئات الخطوات فيعني انفجارًا في استهلاك الذاكرة وتدرّجات غير مستقرة.

كيف تغيّر حلقة for نهج التدريب

يبيّن المؤلفون أن عملية التوليد التكرارية يمكن جعلها قابلة للاشتقاق بمجرد تنظيمها في حلقة `for` قياسية. فتتحد سلسلة الخطوات كلها، من الضوضاء الأولية إلى الصورة النهائية، في سلسلة حسابية واحدة يمر عبرها التدرّج.

«أثبت

AlexNet أمرًا تأكّد مرارًا منذ ذلك الحين: إيكال المهمة بكاملها إلى التدريب من البداية إلى النهاية للنموذج أفضل في الغالب من خط معالجة مرحلي صمّمه الإنسان بعناية»، بحسب ما جاء في مادة Jiqizhixin.

والتشبيه بـ AlexNet مباشر: فحتى عام 2012 كانت سمات التعرّف على الصور تمر هي الأخرى عبر خط معالجة متعدد المراحل، وبدا صوابًا تحسين كل مرحلة على حدة. وجاء AlexNet ليُظهر أنه إذا سُمح للسلسلة كلها بأن تُشتق ككيان واحد، فإن النموذج يجد بنفسه الاستراتيجية الأفضل. والأمر نفسه ينطبق الآن على حلقة التوليد.

لا حاجة إلى معمارية جديدة أو مُحسِّن (optimizer) غريب. فالانتشار العكسي للخطأ القياسي، المنفَّذ عبر بنية أساسية في لغة البرمجة، يتيح تدريب عملية التوليد كلها كنظام واحد. كما أن أطر العمل الحديثة، PyTorch وJAX، تدعم أصلًا اشتقاق العمليات داخل الحلقات.

ماذا يعني ذلك

إذا أمكن توسيع نطاق التدريب من البداية إلى النهاية ليشمل النماذج التوليدية الكبيرة، فقد يغيّر معايير تدريبها كما غيّر AlexNet مقاربات مهام التعرّف. فبدل مكوّنات متفرقة تُدرَّب واحدًا تلو الآخر، يصبح لدينا نظام واحد يحسّن استراتيجية التوليد بنفسه. ويُظهر تاريخ التعلّم العميق أنه حين يتاح للنموذج أن يتعلّم من المهمة ككل، فإنه يجد في الغالب حلًا أفضل مما صُمّم يدويًا.