لماذا تعجز نماذج Transformer الخالصة عن تعلّم التعميم البنيوي: برهان رياضي

نشر باحثون في يوليو 2026 على منصة arXiv دراسةً تبرهن رياضيًا أن Transformer الخالص لا يستطيع تعلّم التعميم البنيوي ذاتيًا من بيانات محدودة. ويكمن السبب في الفجوة بين التعقيد الحسابي للمسألة نفسها (الفئة NC¹) والسقف المُثبَت لقابلية التعلّم لدى نماذج Transformer (الفئة TC⁰).

ما الذي أثبتته الدراسة تحديدًا

قدّم المؤلفون للمرة الأولى تعريفًا صوريًا للتعميم البنيوي، أي قدرة النموذج على تركيب المعنى من أجزاء مألوفة في تركيبات غير مألوفة. فقبل هذه الدراسة، كان هذا المفهوم يُقاس بعشرات المقاييس المعيارية، لكنه لم يُعرَّف تعريفًا دقيقًا قط. ويترجم التعريف الجديد فرضيتين حدسيتين، هما البنية التركيبية والتعميم غير المحدود، إلى لغة الرياضيات.

تتمثل الخطوة المحورية في إثبات أن المسألة تتطلب قدرة حسابية من الفئة NC¹، بينما يقتصر Transformer الخالص على الفئة TC⁰ وفق برهان Kraus et al. (2026). وفي ظل الافتراض المعياري في نظرية التعقيد TC⁰ ≠ NC¹، تصبح النتيجة صارمة: القدرة المطلوبة تقع فوق سقف هذه البنية المعمارية.

• NC¹ — الحد الأدنى الحسابي لمسألة التعميم البنيوي
• TC⁰ — السقف المُثبَت لقابلية التعلّم لدى نماذج Transformer الخالصة (Kraus et al., 2026)
• تقييم الأشجار (BFVP) مسألة NC¹-تامة — أثبت ذلك Buss منذ عام 1987
• في ظل الافتراض المعياري TC⁰ ≠ NC¹، لا يمكن تجاوز هذه الفجوة
• تتجاوز الأنظمة العصبية-الرمزية الجزء الصعب عبر دمج الدلالة (G_γ) يدويًا

أين يصطدم Transformer بالحائط تحديدًا

تنقسم كل قاعدة تركيبية إلى إسقاطين: إسقاط نحوي (F_γ) وإسقاط دلالي (G_γ)، وفق نموذج مونتاغيو للمعنى (نسبةً إلى ريتشارد مونتاغيو) الذي يستند إليه المؤلفون. ويتيح هذا الفصل تحديد أي نصفَي المسألة هو الصعب فعلًا.

يُعد تقييم الشجرة الدلالية (جانب G_γ) حالةً خاصة من مسألة BFVP، وهي مسألة NC¹-تامة وفقًا لـ Buss (1987). ويُضطر Transformer الخالص إلى تعلّم الجانبين معًا، غير أن الفئة التي يمكنه تعلّمها لا تتخطى حدود TC⁰. وهذه الفجوة بين TC⁰ وNC¹ هي الجدار الذي يتحطم عليه التعلّم الذاتي، مهما بلغ حجم البيانات التي يطّلع عليها النموذج.

لماذا تُعدّ المقاييس المعيارية مضلِّلة

تحقق الأنظمة العصبية-الرمزية أفضل الدرجات في مقاييس التعميم البنيوي تحديدًا لأن الإسقاط الدلالي (G_γ) يُدمج فيها يدويًا، ولا يُتعلَّم. فهي تتجاوز النصف الصعب فعلًا من المسألة، وتحقق نتائج مرتفعة بالالتفاف على النواة NC¹-التامة.

ومن هنا تخلص الدراسة إلى استنتاجها الرئيسي: الدرجة في المقياس المعياري لا تميّز بين ما تعلّمه النموذج وما أُعطي له مسبقًا. ويفقد اختبار «هل يستطيع النموذج التعميم؟» صحته إذا كان جزء من آليته قد كُتب فيه يدويًا.

«لا تتيح الدرجات في المقاييس المعيارية التمييز بين "المُتعلَّم" و"المُعطى"» — من ملخص الدراسة على arXiv.

ما الذي يعنيه ذلك

ترسم الدراسة حدًا صارمًا: من دون مكوّنات رمزية أو بنى معمارية أقوى من TC⁰، لن تتعلّم نماذج Transformer الخالصة التعميم التركيبي الحقيقي، مهما زُوّدت به من بيانات. وبالنسبة إلى الممارسين، يُعد ذلك حجةً لصالح المقاربات الهجينة العصبية-الرمزية، أما الباحثون فيجدون فيه دافعًا لقراءة الدرجات المرتفعة في المقاييس المعيارية بمزيد من الحذر.

أسئلة شائعة

ما هو التعميم البنيوي؟

هو قدرة النموذج على معالجة تركيبات جديدة من عناصر مألوفة معالجةً صحيحة، كأن يفهم عبارة مؤلفة من كلمات معروفة لكن ضمن بنية لم ترد في بيانات التدريب. وقد قدّم مؤلفو الدراسة له تعريفًا رياضيًا صوريًا للمرة الأولى.

هل يعني ذلك أن نماذج Transformer عديمة الفائدة؟

لا. يتعلق البرهان بـ Transformer «الخالص» وبقدرة محددة، هي التعلّم الذاتي للتعميم البنيوي من بيانات محدودة. أما عمليًا، فتُستكمل النماذج بمكوّنات رمزية تتولى الجزء الصعب من المسألة.

لماذا تتفوق الأنظمة العصبية-الرمزية على نماذج Transformer في هذه المقاييس المعيارية؟

لأن الإسقاط الدلالي (G_γ) يُحدَّد فيها يدويًا ولا يُتعلَّم. فهي تتخطى الجزء NC¹-التام من المسألة، ولذلك فإن الدرجة المرتفعة لا تثبت أن القدرة قد تُعلِّمت فعلًا.