Jiqizhixin (机器之心)→ المصدر

Генеративные модели теперь можно обучать сквозным способом: секрет — цикл for

В 2012 году AlexNet доказал: сквозное обучение бьёт любой ручной пайплайн. Теперь этот принцип применяют к генеративным моделям — диффузионным и авторегрессионным. Ключ оказался простым: обычный цикл for позволяет передать градиент через весь итеративный процесс генерации целиком. Не нужны новые архитектуры — стандартный backprop через цикл делает всё сам.

معالج بواسطة الذكاء الاصطناعي من Jiqizhixin (机器之心)؛ بتحرير Hamidun News
Генеративные модели теперь можно обучать сквозным способом: секрет — цикл for
المصدر: Jiqizhixin (机器之心). كولاج: Hamidun News.
◐ استمع للمقال

يُظهر الباحثون، الذين تُحلِّل Jiqizhixin أعمالهم، أن النماذج التوليدية يمكن تدريبها بأسلوب شامل من البداية إلى النهاية (end-to-end) — وفق المبدأ ذاته الذي أحدث ثورة في رؤية الحاسوب عام 2012. وقد تبيَّن أن الآلية الرئيسية بسيطة بشكل مفاجئ — مجرد حلقة `for` عادية.

ما أثبته AlexNet عام 2012

قبل AlexNet، كانت مهام رؤية الحاسوب تُحلَّ عبر مسارات يدوية متعددة الخطوات: كان الباحثون يصمِّمون يدويًا كاشفات للحواف والملمس والأشكال، ثم يربطونها في سلسلة تسلسلية. في عام 2012، أسند AlexNet العملية بأكملها إلى شبكة عصبية دُرِّبت على المهمة كاملةً، فحقَّق فوزًا ساحقًا على المنافسين في مسابقة ImageNet بفارق يتجاوز 10 نقاط مئوية.

ومنذ ذلك الحين، انتصر مبدأ التدريب الشامل في كل مهمة جديدة من مهام رؤية الحاسوب:

  • 2012 — تصنيف الصور: تجاوز AlexNet الأساليب اليدوية بأكثر من 10%
  • 2013–2015 — كشف الكائنات: حلَّت R-CNN وYOLO محل المسارات المركَّبة
  • 2015–2017 — التجزئة الدلالية: دُرِّبت FCN وU-Net بالأسلوب الشامل

في كل مرة، تفوَّق نظام واحد قابل للتدريب على المسار اليدوي. والمنطق واحد: بدلًا من تحسين كل مرحلة على حدة، الأفضل السماح للنموذج بالبحث عن الحل عبر المهمة كاملةً.

لماذا ظلَّت النماذج التوليدية استثناءً

تُنتج مولِّدات الصور الحديثة — نماذج الانتشار (Diffusion Models) — نتائجها بصورة تكرارية: إذ تحوِّل ضوضاء عشوائية إلى صورة عبر عشرات أو مئات الخطوات. أما النماذج الانحدارية الذاتية (Autoregressive Models)، فتعمل بأسلوب مختلف، غير أنها أيضًا تسير خطوةً بخطوة — رمزًا تلو رمز.

كان تمرير التدرجات عبر هذه العملية التكرارية إما مكلفًا حسابيًا بصورة محظورة، وإما يستلزم حلولًا معمارية خاصة. ونتيجةً لذلك، كانت مكوِّنات الأنظمة التوليدية تُدرَّب تقليديًا بصورة منفصلة وتُدمج يدويًا في مرحلة الاستدلال — وهو النهج ذاته الذي أثبت AlexNet أنه دون المستوى الأمثل في مهام التعرف.

المشكلة جوهرية: كل خطوة انتشار تعتمد على سابقتها، وتتضخَّم سلسلة التبعيات بسرعة لتصبح ضخمة. إن تخزين الرسم البياني الحسابي بأكمله لتمرير التدرج العكسي عبر مئات الخطوات يؤدي إلى انفجار في الذاكرة وعدم استقرار التدرجات.

كيف تُغيِّر حلقة for نهج التدريب

يُبيِّن المؤلفون أن العملية التكرارية للتوليد يمكن تفاضلها ببساطة بتنظيمها كحلقة `for` قياسية. إذ تُضمُّ التسلسل الكامل للخطوات — من الضوضاء الابتدائية إلى الصورة النهائية — في سلسلة حسابية واحدة يتدفق من خلالها التدرج.

«أثبت

AlexNet شيئًا تأكَّد مرارًا وتكرارًا منذ ذلك الحين: إسناد المهمة بأكملها إلى التدريب الشامل للنموذج أفضل دائمًا تقريبًا من مسار متعدد الخطوات صمَّمه الإنسان بعناية» — كما ورد في مادة Jiqizhixin.

والتشابه مع AlexNet مباشر: قبل عام 2012، كانت ميزات التعرف على الصور أيضًا تمر عبر مسار متعدد المراحل، وبدا صحيحًا تحسين كل مرحلة على حدة. فأثبت AlexNet أنه حين يُسمح لكامل السلسلة بالتفاضل بوصفها كلًا واحدًا، يجد النموذج أفضل استراتيجية بنفسه. والآن ينطبق الأمر ذاته على حلقة التوليد.

لا تحتاج إلى معمارية جديدة أو مُحسِّن غريب. فالانتشار العكسي القياسي، المُنفَّذ عبر بنية أساسية في لغة البرمجة، يتيح تدريب عملية التوليد بأكملها بوصفها نظامًا موحَّدًا. وتدعم أُطر العمل الحديثة — PyTorch وJAX — تفاضل العمليات داخل الحلقة بصورة أصلية.

ما الذي يعنيه هذا

إذا امتدَّ التدريب الشامل ليشمل النماذج التوليدية الكبرى، فقد يُغيِّر معايير تدريبها تمامًا كما غيَّر AlexNet مناهج التعامل مع مهام التعرف. بدلًا من مكوِّنات متفرقة تُدرَّب بالتتابع — نظام موحَّد يُحسِّن استراتيجية التوليد باستقلالية. وتاريخ التعلم العميق يُثبت ذلك: حين يُتاح للنموذج فرصة التعلم على المهمة كاملةً، يجد دائمًا تقريبًا حلًا أفضل مما صمَّمه الإنسان.

ZK
Hamidun News
أخبار الذكاء الاصطناعي بدون ضوضاء. اختيار تحريري يومي من أكثر من 50 مصدر. منتج من جمال حميدون، رئيس الذكاء الاصطناعي في Alpina Digital.

هل تحتاج إلى ذكاء اصطناعي يعمل داخل شركتك — وليس فقط في موجز الأخبار؟

أبني ذكاءً اصطناعياً جاهزاً للإنتاج للشركات — أنظمة CRM مخصّصة، أدوات داخلية، وكلاء مستقلون، أتمتة سير العمل. ملك لك، مصمّم وفق عمليتك، دون رسوم لكل مستخدم. من إعداد جمال خميدون، مدير المنتجات في AlpinaGPT (منصة ذكاء اصطناعي، أكثر من 6000 مستخدم).

ما رأيك؟
جارٍ تحميل التعليقات…