انهيار النموذج

يُعرّف انهيار النموذج—المعروف أيضاً بـ 'لعنة التكرار'—كنمط فشل وثقه رسمياً في ورقة بحثية نشرت عام 2023 من قبل شوميلوف وزملاؤه في جامعة أكسفورد وفريق Google DeepMind. عندما يتم تدريب نماذج الذكاء الاصطناعي على مجموعات بيانات تتضمن نسباً كبيرة من المحتوى المُنتج من قبل نماذج ذكاء اصطناعي سابقة بدلاً من الأصول المؤلفة من قبل البشر، يضيق كل جيل تدريب متعاقب التوزيع الإحصائي الذي تعلمه النموذج تدريجياً. الأنماط النادرة والآراء الأقلية والمعلومات ذات التكرار المنخفض لكن الدقيقة هي أول الضحايا؛ تتقارب مخرجات النموذج نحو وضع أكثر تجانساً ومركزياً.

تدفع آليتان متراكمتان نحو الانهيار. أولاً، البيانات المُنتجة من النماذج تقرب لكنها تضغط التوزيع الإحصائي للتدريب—نماذج التوليد تتحيز نحو المخرجات الأكثر احتمالاً وتقلل بشكل منهجي من تمثيل التطرفات. ثانياً، تتراكم أخطاء التقدير عبر الأجيال: الانحيازات الصغيرة المدخلة في الجيل الأول تصبح الإشارة التدريبية للجيل الثاني، مما يضخم تلك الانحيازات أكثر. في نماذج اللغة، النتيجة النهائية هي انجراف نحو النثر الممل المكرر؛ في مولدات الصور، نحو التركيبات البصرية الموحدة.

يستحق انهيار النموذج الاهتمام لأن الإنترنت—المصدر الأساسي لمجموعات بيانات التدريب للنماذج الحدودية—يمتلئ بسرعة بمحتوى يُنتج من قبل الذكاء الاصطناعي. اكتشفت عدة دراسات تحليلية نُشرت بين 2023 و2025 كميات قابلة للقياس ومتزايدة من النصوص المُنتجة من قبل الذكاء الاصطناعي عبر المنتديات والوسائط الاجتماعية والخدمات الإخبارية، مع ظهور تشبع خاص بشكل بارز في بعض قطاعات المحتوى. إذا لم يتم معالجتها، قد تواجه دورات التدريب المستقبلية تلوثاً منهجياً، مما ينتج نماذج ذات قدرات مقيدة وتنوع مخرجات أضيق حتى لو ظلت درجات الأداء على المهام الشائعة مستقرة.

يستكشف الباحثون عدة استراتيجيات للتخفيف: إضافة علامات مائية على المحتوى المُنتج من قبل الذكاء الاصطناعي لتصفيته من مجموعات التدريب المستقبلية، والحفاظ على مجموعات بيانات منتقاة عالية الجودة مؤلفة من قبل البشر، وتطوير استراتيجيات لمزج البيانات تحافظ على الأمثلة النادرة. اعتباراً من عام 2026، لم تعلن أي منظمة تدريب عن حل شامل؛ تُعتبر المشكلة على نطاق واسع أحد المخاطر الهيكلية الأساسية طويلة الأجل لجودة النماذج الأساسية.

مثال

“تقوم شركة صغيرة متخصصة في توليد الصور بإعادة تدريب نموذجها بشكل أساسي على مخرجاتها السابقة لتقليل تكاليف جمع البيانات؛ بعد ثلاث دورات تدريب من هذا النوع، يلاحظ المستخدمون أن النموذج ينتج تركيبات مناظر طبيعية متطابقة تقريباً بغض النظر عن تنويع الطلب—مثال نموذجي لانهيار النموذج.