مولّدات الصور الجاهزة بالذكاء الاصطناعي تتعلم إكمال أي منطقة في الصورة بجزء ضئيل من التكلفة

تولّد النماذج الانحدارية الذاتية الصورة بالطريقة نفسها التي تكتب بها النماذج اللغوية النص: رمزًا بعد رمز. تُقطَّع الصورة أولًا إلى رموز منفصلة، ثم يتنبأ المحوّل (transformer) بها واحدًا تلو الآخر، عادةً سطرًا بسطر، من اليسار إلى اليمين ومن الأعلى إلى الأسفل. يُسمى هذا الترتيب المسح الشبكي (raster scan). اقترح باحثون من Stony Brook University وÉTS Montréal طريقة لتحويل نموذج مدرَّب مسبقًا بالترتيب الشبكي إلى مولّد بترتيب اعتباطي. ويستطيع النموذج الناتج ملء الفراغات داخل الإطار (inpainting)، وإكمال الصورة خارج حدودها (outpainting)، وتحرير مناطق محددة. ولا حاجة إلى إعادة التدريب من الصفر لتحقيق ذلك. وبحسب تقدير المؤلفين، فإن التكيّف الإضافي أرخص بأكثر من مرتبة عشرية من تدريب نموذج «بأي ترتيب» من الصفر.

لماذا لا يستطيع النموذج المدرَّب سطرًا بسطر إصلاح الوسط؟

في التدريب الشبكي لا يرى النموذج دائمًا سوى ما رُسم أعلى الموضع وعلى يساره. ولم يتعلم التنبؤ برمز تكون الرموز المجاورة له على اليمين وفي الأسفل معروفة. لذلك يقف أمام قناع في منتصف الصورة عاجزًا.

هناك طريقتان للالتفاف على هذا القيد، وكلتاهما مكلفة:

• التدريب من الصفر على خليط من الترتيبات. مثلًا، يتطلب RandAR 300 حقبة تدريب (epoch)، بينما يكتفي LlamaGen-XL المدرَّب سطرًا بسطر بـ100. أي أن الميزانية تتضاعف ثلاث مرات.
• الانتشار المنفصل (discrete diffusion)، ومنه MaskGIT. يستعيد النموذج تكراريًا الرموز المخفية بالقناع باستخدام انتباه ثنائي الاتجاه. الجودة جيدة، لكن KV-cache (تخزين البيانات الوسيطة المحسوبة سابقًا حتى لا تُعاد حسابها في كل خطوة) والفك التخميني (speculative decoding) والخوادم مثل vLLM لا تعمل مع هذا المخطط.

وتضطر الشركات التي لديها خط إنتاج انحداري ذاتي جاهز وخوادم له إلى بناء منظومة ثانية بجانبه. ويرى المؤلفون أن هذه النفقات زائدة عن الحاجة.

تفصيلان لا غنى عنهما، وإلا تعطلت إعادة التدريب

تقوم الفكرة على الرياضيات: وفق قاعدة السلسلة في الاحتمالات، يمكن تحليل التوزيع المشترك للرموز بأي ترتيب. وهذا يعني أن النموذج الذي استوعب الصور جيدًا بترتيب واحد يعرف بالفعل معظم ما يلزم. الناقص هو القدرة على توظيف هذه المعرفة عند تغيّر الترتيب. ولهذا احتاج الباحثون إلى مكوّنين، ولا يعمل أي منهما منفردًا.

التضمينات الموضعية «المدركة للمستقبل» (future-aware). في الترتيب الشبكي يعرف النموذج دائمًا ما سيرسمه تاليًا. أما في الترتيب العشوائي، فقد يقود السياق نفسه إلى أهداف مختلفة. فرمز السماء ورمز الوجه يُتنبأ بهما بطريقتين مختلفتين انطلاقًا من البيانات المرئية نفسها، فتتعارض التدرجات (gradients). وفي النموذج اللغوي XLNet عولجت هذه المشكلة بتيار انتباه ثانٍ، يضاعف الحسابات في الطبقة ويعطّل KV-cache. أما هنا فالحل أبسط: يُضاف إلى مدخل كل خطوة متجه متعلَّم للموضع الذي يجب التنبؤ به تاليًا. يبدأ الجدول بأصفار، وتُجرى الإضافة في طبقة الإدخال فقط. وتبقى البنية محوّلًا عاديًا بتيار واحد.

واختير موضع الانتباه على نحو منفصل. ففي LlamaGen، الذي يستخدم التضمينات الموضعية الدورانية RoPE، وفي RAR، الذي يعتمد جداول المواضع المطلقة، يُؤخذ الفهرس المكاني للرمز لا رقم الخطوة. وهكذا يحتفظ النموذج بكل ما كان يعرفه عن تجاور البكسلات.

التدرج في تعقيد الترتيبات (curriculum). إذا أُعطيت النموذج تباديل عشوائية دفعة واحدة، تكبر الخسائر وتصبح التدرجات مشوشة، ويخرج النموذج من النقطة الجيدة التي بلغها في التدريب المسبق وينسى ما اكتسبه. يُدخل المؤلفون معاملًا يزداد خطيًا: في البداية تأتي معظم الأمثلة بالترتيب الشبكي، ثم تزداد نسبة العشوائية. وينال كل مثال داخل الدفعة (batch) تبديله الخاص. ولا يفيد هنا ببساطة خفض معدل التعلم: فالتدرج سيشير إلى الاتجاه الصعب نفسه. أما الجدول الزمني فيغيّر تركيب بيانات التدريب ذاتها، فتتوافق التدرجات المبكرة مع الحل المدرَّب مسبقًا. وإذا أُزيل أي من المكوّنين، يتباعد التدريب أو تنخفض الجودة بوضوح.

ما النتيجة وما الثمن؟

طُبقت الطريقة على أربعة نماذج أساسية من بنيتين وحجمين: LlamaGen-L وLlamaGen-XL وRAR-L وRAR-XL. والنتائج:

• في إكمال الصورة من الداخل وتوسيع الإطار على ImageNet، تتفوق النماذج المكيَّفة بوضوح على MaskGIT في مقياس FID. يقارن هذا المقياس توزيع الصور المولَّدة بتوزيع الصور الحقيقية، وكلما انخفض كان أفضل.
• النتائج مقاربة لنتائج MAR-L، الذي يعمل برموز مستمرة ورأس انتشار. ولم يُدرَّب النموذج تحديدًا على أي من هذه المهام.
• تؤدي الأوزان نفسها مهام الإكمال والتوسيع والتحرير حسب المناطق. والذي يتغير هو مجموعة الرموز المعروفة عند الإدخال فقط.
• هناك ثمن. ففي LlamaGen-XL ارتفع FID في التوليد العادي حسب الفئة. أما Inception Score وprecision وrecall فبقيت قريبة من قيمها الأصلية. ويقول المؤلفون صراحةً إن هذا مقايضة بين الجودة والمرونة، وليس تحويلًا مجانيًا.

بقيت البنية نفسها سببية (causal)، ولذلك يعمل KV-cache والفك المتوازي. ويمكن تشغيل النموذج عبر vLLM مع تسجيل نموذج مخصص. أما بالنسبة إلى الانتشار المنفصل، فهذا غير متاح مبدئيًا، بحسب المؤلفين.

ماذا يعني ذلك للمهندسين؟

من يمتلك أصلًا نموذجًا انحداريًا ذاتيًا مدرَّبًا مسبقًا للصور والبنية التحتية اللازمة له، يحصل على إمكانية التحرير دون منظومة ثانية ودون إعادة تدريب. ويصبح الإكمال من الداخل وتوسيع الإطار وضعَ تشغيل في نموذج موجود أصلًا. والقيود واضحة أيضًا. فالتحقق مقتصر على ImageNet وأربعة نماذج أساسية، وجودة التوليد العادي تتراجع قليلًا. لكن الاتجاه واضح: يمكن استخراج قدرات مفيدة من نماذج دُرّبت بالفعل. والشيفرة منشورة على GitHub في المستودع Ordered-AR/unlockedadaptation.