نموذج JEPA بـ 109 ملايين معامل يتفوق على Qwen2.5-72B: توافق 0.184 مقابل 0.154

تنص فرضية التمثيلات الأفلاطونية (PRH) على أنه كلما كبرت النماذج، أصبحت تمثيلاتها الداخلية للعالم، المبنية من النصوص ومن الصور، أكثر تشابهًا. وحتى الآن كان ذلك مجرد ملاحظة: فلم يكن هناك إثبات صارم للمهام ذاتية التعلم المستخدمة عمليًا. أما العمل الجديد فيحوّل PRH إلى نظرية لعائلة JEPA (معماريات التنبؤ بالتضمينات المشتركة، أي المعماريات التي يتنبأ فيها تضمين نوع واحد من البيانات بتضمين نوع آخر). والنتيجة العملية: سجّل نموذج JEPA نصي بـ 109 ملايين معامل 0.184 في مقياس التوافق مع نماذج الرؤية على المعيار المأخوذ من عمل PRH. وهذا أعلى من أي نموذج لغوي جرى اختباره، بما في ذلك Qwen2.5-72B الذي حقق 0.154، وأعلى من المُرمِّز النصي في CLIP (0.124). وتأكد التفوق على معيارين وبمقياسين.

نظرية متى تتطابق الوسائط

فكرة الإثبات قصيرة. فنموذج JEPA الذي يستخدم حدًا من الدرجة الثانية «مبيَّضًا» (whitened) لمنع الانهيار يتعلم التضمين الطيفي للرسم البياني الذي تحدده أزواجه الإيجابية، أي أزواج المدخلات المعلنة منظورين لبعضهما. وإذا كانت الوسائط المختلفة (النص والصور والفيديو والصوت والأفعال) تصف العالم نفسه، وكانت أزواجها الإيجابية تربط حالات العالم نفسها، فإن مهام التدريب تتطابق حتى تغيير الإحداثيات. وتتطابق الحلول أيضًا حتى دوران واحد. وهذه هي Platonic Representation Theorem، ويمكن أن يكون عدد الوسائط فيها أي عدد.

أما إذا اختلفت الأزواج الإيجابية بين الوسائط، فإن عدم التوافق محدود باختلاف رسومها البيانية للأزواج الإيجابية وبحجم الفجوة الطيفية. وقد اختبر المؤلفون هذا الحد على 300 عالم منتهٍ مولَّد عشوائيًا: وفي جميعها جاء الخطأ دون الحد، ولم يتجاوز 18% منه.

ومن هنا نستنتج عمليًا أن المهم ليس حجم النموذج والبيانات فحسب، بل أيضًا ما يُعدّ زوجًا إيجابيًا. فـ«المنظور الجيد» هو ملاحظتان لمشهد واحد، مثل وصفين لصورة واحدة. أما «المنظور السيئ» فهو تشويهان لملاحظة واحدة: اقتطاعان من الصورة نفسها أو إخفاءان لجملة واحدة. وفي الحالة الثانية ينفق المُرمِّز جزءًا من الأبعاد على خصائص وسيطه، ولا يستطيع أي دوران مطابقته مع وسيط آخر.

ووفق هذا المنطق، فإن التنبؤ بالرمز التالي هو JEPA بمنظور سيئ: إذ يكون الإيجابي هو البادئة والتتمة من وثيقة واحدة. ويرى المؤلفون أن هذا هو سبب اقتراب النماذج اللغوية من نماذج الرؤية بشكل جزئي فقط، وغالبًا بفضل الحجم.

ما أظهرته التجارب

جرى الاختبار بنصوص ومُرمِّزات متطابقة. وقدّمت المناظير الجيدة أفضل توافق في معظم المقارنات تقريبًا: من 145 ألف تعليق من Flickr إلى نصوص 940 مليون صورة من الويب، ومع مُرمِّزات صور مدرَّبة من الصفر ومجمَّدة على حد سواء، وكذلك على الفيديو. ويخضع التوافق لقانون تحجيم يعتمد على نسبة المناظير الجيدة وعدد الأمثلة التي رآها النموذج. وقد تنبأ هذا القانون بـ 85 تشغيلًا جديدًا قبل إجرائها بدقة مماثلة لإعادة التشغيل بقيمة seed مختلفة.

أبرز الأرقام على المعيار المأخوذ من عمل PRH:

• حصل JEPA نصي بـ 33 مليون معامل، دُرِّب على نصوص 50 مليون صورة من الويب، على 0.125 مقابل 0.034 على تعليقات Flickr، أي بمستوى Qwen2.5-3B وQwen2.5-7B؛
• وعلى المدونة نفسها، بلغ JEPA بالمناظير الجيدة بعد 21.6 مليون مثال تدريبي ما يبلغه التنبؤ بالرمز التالي بعد 900 مليون، أي أكفأ بـ 42 مرة؛
• وقرأ JEPA بـ 109 ملايين معامل 116 مليار رمز، وتفوق على نماذج أكبر منه بـ 660 مرة ودُرِّبت على بيانات تزيد على حجم بياناته بأكثر من 100 ضعف؛
• وبالاقتران مع مُرمِّز الصور CLIP ViT-H سجّل 0.230 مقابل 0.210 لأفضل النماذج اللغوية؛ ويبقى التفوق قائمًا أيضًا مع مُرمِّزات MAE وI-JEPA.

تعليقات بلا أزواج وحدود النظرية

يعمل التوافق أيضًا كأداة. فخريطة خطية واحدة ذات صفوف متعامدة معيارية، وهي الجزء الوحيد المدرَّب على الأزواج، تربط DINOv2 وDINOv3 المجمَّدين بنموذج لغوي دُرِّب إضافيًا على النص فقط. والنتيجة: CIDEr (مقياس جودة أوصاف الصور) يبلغ 0.838 على COCO. وتحتوي هذه الخريطة على 0.22 مليون معامل لـ DINOv2 ViT-B، و1.9 مليون معامل لأقوى نموذج لوصف الصور بخصائص ذات 5120 بُعدًا.

ومن دون أي زوج واحد، يمكن إيجاد الدوران من هندسة الصور والتعليقات غير المقترنة. وفي معيار هذا النوع من التوافق، حيث تُقيَّم النتيجة بالتصنيف zero-shot، تفوّق JEPA النصي بـ 109 ملايين معامل على جميع الدقات المنشورة على 21 زوجًا من نماذج الرؤية والنماذج اللغوية في خمسة إعدادات. وتفوق على أقوى نموذج لغوي، Qwen3-8B، الذي أُعيد تشغيله في الظروف نفسها، بفارق 17 نقطة في دقة zero-shot على ImageNet-100.

ويحدد المؤلفون حدود النظرية بأنفسهم. فقد أُثبتت النظرية لنموذج مثالي مبسّط: عالم منتهٍ، وعرض متباين (injective)، وقيم مثلى على مستوى المجتمع الإحصائي، ومُتنبِّئ مطابق. أما وحدانية الحل عند فرض القيد على التوزيع بأكمله، كما في SIGReg من LeJEPA، فقد اعتُمدت كافتراض. ولا تغطي النظرية نماذج العالم من نوع JEPA ذات المُتنبِّئ المشروط بالفعل، ولا حالة الخريطة الخطية بين تضمينات مختلفة الأبعاد.

والخلاصة الرئيسية للممارسين هي أنه عند جمع البيانات للأنظمة متعددة الوسائط، ينبغي التفكير في أزواج من نوع «عدة ملاحظات مستقلة لمشهد واحد»، وليس في حجم المدونة وحده.