Baidu مع تسينغهوا ورنمين تفتح مصدر LoopVL: تعليم Loop Transformer الرؤية

أتاحت Baidu، بالتعاون مع جامعة تسينغهوا وكلية غاولينغ للذكاء الاصطناعي في جامعة رنمين الصينية، نموذج LoopVL للاستخدام المفتوح. وهو نموذج بصري لغوي مبني على Loop Transformer، أي شبكة تُطبَّق فيها مجموعة واحدة من الأوزان على حالة النموذج عدة مرات متتالية. ويتناول الباحثون سؤالًا ظل النقاش حوله محصورًا في الغالب بالنصوص: هل تبقى مكاسب الحلقات قائمة عندما يكون المُدخل صورة؟ لا يتضمن إعلان Jiqizhixin المنشور حجم النموذج ولا نتائجه في الاختبارات المعيارية، ولذلك ينبغي استقاء الأرقام المحددة من الورقة البحثية والمستودع.

ما هو Loop Transformer ولماذا نحتاج إليه

يكدّس المحوّل التقليدي عشرات الطبقات الفريدة، ولكل طبقة أوزانها الخاصة. أما النسخة الحلقية فتسلك طريقًا مختلفًا: تأخذ كتلة أو مجموعة كتل، وتمرّر الحالة المخفية عبرها عدة مرات. وهكذا يزداد عمق الحساب بينما يبقى عدد المعاملات كما هو.

وبحسب وصف المؤلفين، تطور هذا الاتجاه عبر مراحل. بدأ بإعادة استخدام بسيطة للوحدة نفسها، وبات اليوم يقوم على حلقات متعددة المستويات أكثر تعقيدًا، تُحدِّث فيها المعاملات المشتركة حالة النموذج باستمرار. وفي المهام اللغوية تبدو الفكرة واضحة: يمكن «التفكير مرة أخرى» في التمثيل نفسه دون تضخيم الأوزان.

لماذا تزيد الرؤية المسألة تعقيدًا

تختلف بنية الصورة عن بنية التسلسل النصي. ففي إطار واحد تتعايش نقوش وأشياء وعلاقات مكانية بينها: ما على اليسار، وما في المقدمة، وما عليه تسمية. والسؤال الذي يطرحه المؤلفون هو كيف ستتعامل المرورات المتكررة مع هذا كله. قد تتخصص الدورات المختلفة، فتقرأ إحداها النص مثلًا وتبني أخرى هندسة المشهد. وقد تكرر بعضها بعضًا فتهدر الحساب بلا طائل. ينقطع الإعلان عند هذه النقطة بالذات («قد تكون الحلقات المختلفة…»)، ولا تظهر في الجزء المتاح أي استنتاجات للدراسة. ولذلك يجب البحث عن الإجابة في العمل البحثي نفسه.

ما المعروف حتى الآن

• الاسم: LoopVL، نموذج بصري لغوي مبني على Loop Transformer.
• المشاركون: Baidu وجامعة تسينغهوا وكلية غاولينغ (جامعة رنمين الصينية).
• الترخيص والصيغة: أُعلن عن المشروع بوصفه مفتوحًا.
• الفكرة الرئيسية: معاملات مشتركة مع حلقات متعددة المستويات لتحديث الحالة.
• لم يُذكر في النص المتاح حجم النموذج ولا عدد الحلقات ولا نتائج الاختبارات المعيارية ولا سرعة الاستدلال.

لماذا يهم هذا المهندسين

تتمثل الميزة الرئيسية للحلقات في توفير الذاكرة. فالنموذج ذو الأوزان المشتركة يشغل حيزًا أقل، وهذا مهم للتشغيل على الأجهزة وفي ظل محدودية ذاكرة الفيديو. لكن الثمن يُدفع من الحساب: كل مرور إضافي يكلّف FLOPs ويضيف زمن استجابة. وفي النماذج متعددة الوسائط، حيث تتحول الصورة أصلًا إلى مئات الرموز، تكون كلفة التكرار أوضح منها في النص. ويتوقف المكسب على عدد الحلقات المطلوبة فعليًا، وعلى إمكانية تغيير هذا العدد بحسب تعقيد الطلب.

إذا كنتم تفكرون في استخدام LoopVL، فتحققوا أولًا مما يلي:

• المقارنة مع نموذج تقليدي بعدد المعاملات نفسه وميزانية الحساب نفسها، لا مع نسخة أساسية أصغر حجمًا فحسب؛
• النتائج في المهام التي تتضمن نصًا داخل الإطار (OCR والمستندات والرسوم البيانية) وفي الأسئلة المكانية، حيث يُفترض أن تتصرف الحلقات المختلفة بطرق مختلفة؛
• زمن الاستجابة واستهلاك الذاكرة عند الطول الفعلي للتسلسل البصري؛
• ترخيص الأوزان والشيفرة، وتوافر نقاط الحفظ (checkpoints) اللازمة لمواصلة التدريب.

ما دامت المقاييس غير منشورة، فمن المعقول التعامل مع LoopVL بوصفه مرجعًا بحثيًا. فهو اختبار لقدرة البنية الحلقية على تحمل الحِمل متعدد الوسائط. وإن صمدت، فسيحصل مطورو النماذج المدمجة على وسيلة أخرى لإضافة العمق دون زيادة عدد الأوزان. وإن تبيّن أن الحلقات زائدة عن الحاجة، فهذه نتيجة مفيدة أيضًا، وتتيح الأوزان المفتوحة التحقق منها بشكل مستقل.