Почему чистые Transformer не способны выучить структурную генерализацию: доказательство
Чистые Transformer математически не способны автономно выучить структурную генерализацию — доказано через теорию сложности. Задача относится к классу NC¹, а обучаемый потолок трансформеров — TC⁰; при стандартном предположении TC⁰ ≠ NC¹ разрыв непреодолим. Высокие баллы нейросимволических систем на бенчмарках объясняются тем, что им семантику встраивают вручную: «выученное» неотличимо от «данного».
معالج بواسطة الذكاء الاصطناعي من arXiv cs.CL؛ بتحرير Hamidun News
نشر باحثون في يوليو 2026 ورقة بحثية على arXiv تُثبت رياضيًا: أن نموذج Transformer النقي غير قادر على تعلّم التعميم البنيوي (structural generalization) بشكل مستقل من بيانات محدودة. والسبب هو الفجوة بين التعقيد الحسابي للمهمة نفسها (الفئة NC¹) وسقف قابلية التعلّم المُثبت للمحوّلات (transformers) (الفئة TC⁰).
ماذا أثبتت الورقة بالضبط
قدّم المؤلفون، لأول مرة، تعريفًا رسميًا للتعميم البنيوي — وهو قدرة النموذج على تجميع المعنى من أجزاء مألوفة في تركيبات غير مألوفة. وقبل هذا العمل، كان هذا المفهوم يُقاس بعشرات المعايير القياسية (benchmarks)، لكنه لم يُعرَّف بدقة قط. يترجم هذا التعريف فرضيتين بديهيتين — البنية التركيبية (compositional structure) والتعميم غير المحدود — إلى لغة الرياضيات.
الخطوة الأساسية هي إظهار أن المهمة تتطلب قوة حسابية من الفئة NC¹، في حين أن نموذج Transformer النقي، وفقًا لبرهان Krause وآخرون (2026)، مقيّد بالفئة TC⁰. وبافتراض معياري في نظرية التعقيد بأن TC⁰≠NC¹، تكون النتيجة صارمة: القدرة المطلوبة تقع فوق سقف البنية المعمارية.
- NC¹ — الحد الأدنى الحسابي لمهمة التعميم البنيوي
- TC⁰ — سقف قابلية التعلّم المُثبت للمحوّلات النقية (Krause وآخرون، 2026)
- تقييم الأشجار (BFVP) مكتمل من الفئة NC¹ — أثبت ذلك Buss منذ عام 1987
- بافتراض TC⁰≠NC¹ المعياري، تكون الفجوة غير قابلة للتجاوز
- الأنظمة العصبية-الرمزية (neurosymbolic) تتجاوز الجزء الصعب عبر دمج الدلالة (G_γ) يدويًا
أين يصطدم Transformer بالضبط
تنقسم كل قاعدة تركيبية إلى إسقاطين: نحوي (F_γ) ودلالي (G_γ) — وهكذا يُبنى نموذج مونتاغيو للمعنى (نسبة إلى ريتشارد مونتاغيو Richard Montague)، الذي يعتمد عليه المؤلفون. يتيح هذا الفصل تحديد أي نصف من المهمة صعب فعلًا بدقة.
تقييم الشجرة الدلالية (جانب G_γ) هو حالة خاصة من مسألة BFVP، وهي، وفقًا لـ Buss (1987)، مكتملة من الفئة NC¹. ويُضطر نموذج Transformer النقي إلى تعلّم الجانبين معًا، لكن فئة قابليته للتعلّم لا تتجاوز TC⁰. والفجوة بين TC⁰ وNC¹ هي بالضبط الجدار الذي يتحطم عليه التعلّم المستقل — مهما كانت كمية البيانات التي يراها النموذج.
لماذا تُضلّل المعايير القياسية (benchmarks)
تحقق الأنظمة العصبية-الرمزية درجات أفضل في معايير التعميم البنيوي لسبب واحد بالضبط: أن إسقاطها الدلالي (G_γ) يُدمَج يدويًا بدلًا من أن يُتعلَّم. فهي تتجاوز النصف الصعب فعلًا من المهمة وتحصل على نتيجة عالية عبر الالتفاف حول النواة المكتملة من الفئة NC¹.
ومن هنا تأتي الخلاصة الرئيسية للورقة: درجة المعيار القياسي لا تميّز بين ما تم تعلّمه وما تم تزويده مسبقًا. ويتوقف اختبار "هل يستطيع النموذج التعميم؟" عن أن يكون صحيحًا إذا كان جزء من الآلية قد أُدرِج ببساطة يدويًا.
"درجات المعايير القياسية لا تسمح بالتمييز بين 'المتعلَّم' و'المُعطى'"
— من ملخص الورقة على arXiv.
ماذا يعني هذا
ترسم الورقة حدًا صارمًا: من دون مكونات رمزية أو بُنى معمارية أقوى من TC⁰، لن تتعلّم المحوّلات النقية تعميمًا تركيبيًا حقيقيًا، مهما بلغت كمية البيانات المُعطاة لها. وبالنسبة للممارسين، هذه حجة لصالح المناهج الهجينة العصبية-الرمزية؛ أما بالنسبة للباحثين، فهي سبب لقراءة الدرجات العالية في المعايير القياسية بحذر أكبر.
الأسئلة الشائعة
ما هو التعميم البنيوي؟
هو قدرة النموذج على معالجة تركيبات جديدة من عناصر مألوفة بشكل صحيح — على سبيل المثال، فهم عبارة مكوّنة من كلمات معروفة ضمن بنية لم تظهر أثناء التدريب. وكان مؤلفو الورقة أول من قدّم لها تعريفًا رياضيًا رسميًا.
هل يعني هذا أن المحوّلات (transformers) عديمة الفائدة؟
لا. يتعلق البرهان بنموذج Transformer "نقي" وبقدرة محددة — التعلّم المستقل للتعميم البنيوي من بيانات محدودة. أما في الممارسة العملية، فتُستكمل النماذج بمكونات رمزية تغطي الجزء الصعب من المهمة.
لماذا تتفوق الأنظمة العصبية-الرمزية على المحوّلات في هذه المعايير القياسية؟
لأن إسقاطها الدلالي (G_γ) يُحدَّد يدويًا بدلًا من أن يُتعلَّم. فهي تتخطى الجزء المكتمل من الفئة NC¹ في المهمة، لذا فإن الدرجة العالية لا تثبت أن القدرة تم تعلّمها فعليًا.
هل تحتاج إلى ذكاء اصطناعي يعمل داخل شركتك — وليس فقط في موجز الأخبار؟
أبني ذكاءً اصطناعياً جاهزاً للإنتاج للشركات — أنظمة CRM مخصّصة، أدوات داخلية، وكلاء مستقلون، أتمتة سير العمل. ملك لك، مصمّم وفق عمليتك، دون رسوم لكل مستخدم. من إعداد جمال خميدون، مدير المنتجات في AlpinaGPT (منصة ذكاء اصطناعي، أكثر من 6000 مستخدم).
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.