شقيقان درّبا نموذجاً لتحويل النص إلى صورة مقابل 20 ألف دولار ونشرا أوزانه بترخيص Apache 2.0

عادة ما تنتهي النقاشات حول بناء نموذج توليدي خاص عند كلمة «الميزانية». قرر شقيقان من مختبر Linum التحقق من التكلفة الفعلية لبناء نموذج جيد لتحويل النص إلى صورة. الإجابة: نحو 20 ألف دولار. وقد نشرا الأوزان بترخيص Apache 2.0، كما نشرا الدراسة على الموقع.

ما الذي فعلاه

المعيار السائد في الصناعة هو الانتشار الكامن. في البداية، يضغط VAE الصورة إلى فضاء كامن مدمج، ثم يتعلم نموذج الانتشار التوليد داخله. والنتيجة هي مرحلتان للتدريب، ونموذجان، ونقطتان محتملتان لوقوع الأخطاء.

تخلّى فريق Linum عن VAE. يعمل نموذج الانتشار مباشرة في فضاء البكسلات ويتعلم بنفسه التمثيل الأمثل لمهمته. تحمل المعمارية اسم Pyramid-JiT. ودُرّب النموذج لمدة شهر تقريباً بوصفه تجربة أطول أمداً: نحو 20 ألف دولار و660 مليون عينة.

لماذا يهم ذلك

يذكر المؤلفون ثلاث فوائد. أولاً، المعمارية أبسط، إذ لا حاجة إلى تدريب مكوّنين بالتتابع. ثانياً، ووفقاً لبياناتهم، يحدث التقارب بسرعة تفوق النظير الكامن 11 مرة. ثالثاً، الاستدلال أقل تكلفة: يمكن تقليص سياق الانتباه 4 مرات بصورة أكثر حدة، من دون تراجع ملحوظ في الجودة.

تخيّل شركة ناشئة تولّد رسوماً توضيحية لأغراض التسويق. في السابق، كان امتلاك نموذج خاص ترفاً يتطلب استئجار عنقود حوسبة، وفريقاً من الباحثين، وشهوراً من العمل. أما الآن فهناك وصفة متاحة للعامة لا تتجاوز تكلفتها جولة صغيرة من التجارب. هذا ليس بديلاً من Midjourney، لكنه يشكل بالفعل أساساً كافياً لنموذج متخصص في نطاق ضيق.

ويقف وراء ذلك هدف أكثر طموحاً أيضاً. يبني Linum نماذج فيديو، وتقريباً تبدأ جميع نماذج الفيديو بوصفها نماذج صور. ويمزح المؤلفون أنفسهم بأن النماذج تتعلم الأسماء أولاً ثم الأفعال. وإذا أصبحت الصور رخيصة التوليد، فسيصبح الفيديو أرخص أيضاً؛ فالسرعة والتكلفة هما تحديداً ما يعرقل حالياً استخدام الفيديو في سير عمل إبداعي تكراري.

القيود

ينبغي توضيح بعض التحفظات منذ البداية. هذا مشروع منشور على Show HN من فريق بالغ الصغر، وليس اختباراً معيارياً مستقلاً. يصف المؤلفون أنفسهم الجودة بأنها «جيدة بما يكفي»، ويقولون إن النتيجة فاجأتهم، كما لا يتضمن المنشور جداول مقارنة مع رواد السوق. أما أرقام التسريع بمقدار 11 مرة وتقليص عدد الرموز بمقدار 4 مرات، فتتعلق بمقارناتهم الخاصة مع نسختهم الكامنة، ولذلك لا ينبغي تعميمها على أي مهام أخرى. كذلك، لا يشمل مبلغ 20 ألف دولار سوى جولة التدريب النهائية؛ واستناداً إلى الوصف، لا تدخل فيه تكاليف التجارب السابقة واختيار المعمارية.

لا يزال النقاش على Hacker News محدوداً حتى الآن: نحو 110 نقاط و11 تعليقاً. ولا يوجد إجماع قوي، لذا من الأدق اعتبار الأمر إشارة مثيرة للاهتمام، لا اختراقاً مثبتاً.

ما الذي يمكن فعله بهذه المعلومات

إذا كنتم تبنون منتجاً يعتمد على توليد الصور، فنزّلوا الأوزان واختبروها باستخدام مطالباتكم الخاصة: يسمح ترخيص Apache 2.0 باستخدامها تجارياً من دون تحفظات خاصة. وإذا كنتم باحثين أو مهندسي تعلم آلي، فاقرؤوا البحث الخاص بـPyramid-JiT وفكروا فيما إذا كان مشروعكم التالي يحتاج فعلاً إلى VAE. أما إذا كنتم تعملون في إدارة المنتجات، فتذكروا النقطة الأهم: لقد انخفض مجدداً حاجز الدخول إلى بناء نماذج توليدية خاصة، وأصبحت حجة «هذا مكلف للغاية» أقل إقناعاً يوماً بعد يوم.