نموذج Halcyon يتفوق على LlamaGen وJiT-T2I باستهلاك حوسبة تدريب مسبق أقل بمقدار 18 إلى 275 مرة

أثبت فريق من الباحثين أن بناء نموذج قوي لتوليد الصور من النصوص (text-to-image) لا يتطلب بالضرورة تدريبًا لغويًا مسبقًا على نطاق الويب. دُرّبت عائلة نماذج Halcyon بالكامل من الصفر على GPIC، وهي مجموعة بيانات تتألف من 100 مليون زوج «صورة-نص». حققت النسخة الأصغر Halcyon-0.52B نتيجة 48.0 في مقياس gFD مقابل 63.3 لنموذج LlamaGen-XL/8، مع استهلاك حوسبة تدريب مسبق أقل بمقدار 18.2 مرة. أما النسخة الأكبر، Halcyon-1.6B، فتفوقت على JiT-T2I-XXL/8++ بنتيجة 35.3 مقابل 41.0 باستهلاك حوسبة أقل بمقدار 275 مرة؛ علمًا بأن القيمة الأقل في هذا المقياس تعني أداءً أفضل.

ما الذي جرى اختباره بدقة؟

تعتمد أنظمة T2I الحديثة عادةً على نموذج لغوي مُدرّب مسبقًا على مجموعات نصية ضخمة، استنادًا إلى افتراض مفاده أن هذا النموذج يفهم الأوامر بدقة أعلى، ما يقود إلى رسم أدق. وضع مؤلفو الدراسة هذه الفرضية موضع تساؤل، باحثين عما إذا كان التدريب اللغوي المسبق ضروريًا لتوليد صور عالية الجودة.

صُممت Halcyon كعائلة نماذج ذاتية الانحدار متعددة الوسائط تعتمد دمجًا مبكرًا (early-fusion)، حيث تُعالج الرموز النصية والبصرية معًا منذ البداية دون الاعتماد على بنية برجية لغوية منفصلة ومُدرّبة مسبقًا. واعتمدت إشارة التدريب بأكملها على 100 مليون زوج «صورة-نص»، وهو حجم متواضع بمقاييس مجموعات البيانات المأخوذة من الويب.

الأرقام والتجارب الضابطة

تتلخص النتيجة الرئيسية في موازنة الجودة بالتكلفة الحسابية:

• Halcyon-0.52B: سجل 48.0 gFD مقابل 63.3 لـ LlamaGen-XL/8، بحوسبة تدريب مسبق أقل بمقدار 18.2 مرة.
• Halcyon-1.6B: سجل 35.3 gFD مقابل 41.0 لـ JiT-T2I-XXL/8++، بحوسبة تدريب مسبق أقل بمقدار 275 مرة.
• بيانات التدريب: GPIC، تتكون من 100 مليون زوج «صورة-نص».
• البنية: انحدار ذاتي متعدد الوسائط بأسلوب early-fusion، وتدريب كامل من الصفر.

لا تكفي المقارنة المجردة مع النماذج المنافسة لإثبات الأسباب؛ لذا يبرز الجانب الأكثر أهمية: أجرى المؤلفون تجارب ضابطة أظهرت أن التدريب المسبق على النصوص وحدها لم يُحسّن توليد الصور من النصوص. وتُعد هذه النتيجة ملاحظة تجريبية مدعومة بالبيانات وليست مجرد تفوق عابر في اختبار قياسي، ما يشير إلى أن المعرفة النصية المكتسبة من المجموعات اللغوية تقدم فائدة أقل مما كان يُعتقد لمهمة «الرسم بناءً على الوصف». ويبقى هناك استدراك وحيد: استُخلصت هذه النتيجة ضمن سياق تجريبي محدد، وأحجام نماذج ومجموعة بيانات معينة، ولا يمكن تعميمها على جميع المقاييس دون اختبارات إضافية.

توليد شروح الصور دون كلفة إضافية

ترتبط إحدى التفاصيل التقنية اللافتة بإنشاء شروح الصور (captioning). ففي تدريب T2I التقليدي، يجري عادةً إسقاط أجزاء من النصوص عشوائيًا (caption dropout) لتمكين النموذج من التوليد المشروط وغير المشروط. استبدل Halcyon هذه التقنية بأسلوب الإشراف عبر تحويل الصورة إلى نص (I2T-supervision): فبدلًا من الشرط الفارغ، يُكلَّف النموذج بوصف الصورة. ونتيجة لذلك، يكتسب النموذج القدرة على كتابة أوصاف للصور مع الحفاظ على كفاءة تنافسية في توليد الصور، ودون تجاوز ميزانية التدريب المسبق المحددة.

وهكذا يكتسب نموذج واحد قدرتين مختلفتين عبر مسار تدريب واحد، ما يتيح لفرق العمل التي تحتاج إلى توليد الصور وتوصيفها معًا الاستغناء عن تشغيل مسارين منفصلين.

خلاصات عملية

تكمن الإشارة الأهم للباحثين والفرق الصغيرة في أن عتبة الدخول لتدريب نموذج T2I خاص باتت أقل كلفة مما كان متوقعًا؛ إذ تُعد مجموعة بيانات مكونة من 100 مليون زوج أصغر بوضوح من مجموعات الويب المعتادة، كما يقاس الفارق في حوسبة التدريب المسبق بعشرات أو مئات المرات. وإذا تأكدت هذه النتائج على بيانات أخرى، فستفتح مسارًا عمليًا للمختبرات التي تفتقر إلى مجموعات الحوسبة العملاقة.

يمكن التحقق من ذلك عمليًا، حيث نُشر الكود والنماذج على صفحة المشروع cs.stanford.edu/~keshik/halcyon. ويُنصح باختبار Halcyon على أوامر ومجالات متخصصة خاصة، لأن مقياس gFD يقيس التوزيع الإحصائي ولا يعكس بالضرورة مدى الملاءمة لمنتج تطبيقي محدد. كما يفيد اختبار ومقارنة أسلوب I2T-supervision في مقابل الآلية التقليدية لـ caption dropout على البيانات الخاصة.

ويبقى السؤال حول قابلية التوسع قائمًا؛ إذ تُظهر الدراسة نتائج لنماذج بسعة 0.52 و1.6 مليار معامل، ولا يزال من غير الواضح ما إذا كانت هذه الميزة ستستمر عند الانتقال إلى أحجام أكبر برتبة كاملة. وستكون الإجابة رهن الجولة القادمة من التجارب.