لماذا تفسد نماذج اللغة بنية المستند عندما توكل إليها مهمة التحرير

يبدو تحرير المستندات باستخدام نموذج لغة كحل واضح: أدرج نصاً، أعط تعليماً، احصل على نتيجة دون ساعات من العمل اليدوي. ومع ذلك، في الممارسة العملية، غالباً ما يتبين أن المستند المرجع مختلف — مع عناوين منزاحة أو فقرات مفقودة أو أجزاء معاد صياغتها لم يطلب أحد لمسها. بدلاً من التحرير، يحدث تدهور غير مرئي للهيكل.

التوليد مقابل التحرير

التناقض الأساسي يكمن في معمارية المحولات نفسها. يتم تدريب نماذج اللغة على التنبؤ بالرمز التالي بناءً على السياق — فهي لا "تحرر" بالمعنى الذي يفعله معالج الكلمات. عندما يتلقى النموذج التعليمات "إصلاح القواعد النحوية في القسم الثالث"، فإنه لا يطبق قاعدة دقيقة على السطور — بل يولد ما يعتقد أنه يجب أن يبدو عليه النص المحدث كاملاً. الحد "حرر هذا فقط" غامق بشكل أساسي لـ LLM: يقيم النموذج السياق كله ويولد نسخة جديدة بدلاً من تطبيق تعديلات ذرية. هذا ملحوظ بشكل خاص في المستندات الكبيرة — كلما زاد "المادة"، كانت الانجراف عن المصدر أقوى.

ظاهرة ما يُفقد في المنتصف

حتى النماذج التي تحتوي على نافذة سياق بـ 200 ألف رمز تنشئ مشاكل هيكلية مع المستندات الطويلة. تحدد الأبحاث باستمرار تأثير "lost in the middle": تحتفظ النماذج جيداً بالمعلومات من بداية ونهاية السياق، لكنها تفقد بشكل منهجي التفاصيل من منتصفه. كلما طال المستند، كان التأثير أقوى. بالنسبة للملفات الحقيقية، هذا يعني أن العناصر الهيكلية في الأقسام الوسطى هي الأكثر عرضة للتلف. ضحايا نموذجيون:

• القوائم المتداخلة — تتسطح مستويات التداخل إلى واحد
• الجداول — تفقد محاذاة الأعمدة أو تتحول إلى النثر
• المراجع المتقاطعة — تتحول إلى نص عادي بدون أنساع
• واجهة YAML والعلامات المخصصة — تُحذف كـ "فوضى غير ضرورية"
• ترقيم الأقسام — يصبح مربكاً بعد أي إدراج أو حذف للمحتوى

التنسيق كرموز بدون دلالات

Markdown و HTML و LaTeX — يرى النموذج كل هذا كرموز عادية، وليس كصيغة مع قواعد. بالنسبة لشبكة عصبية، الرموز `##` هي ببساطة علامتا فرقعة، وليس "عنواناً من المستوى الثاني محاذيً مع جدول المحتويات". يتم نسخ أنماط التنسيق من خلال التشابه الإحصائي مع بيانات التدريب، وليس من خلال قواعد بناء الجملة الصريحة. النتيجة متوقعة: المحاذاة غير المتسقة، مستويات العنوان الملتبسة، أنساع الارتباط المكسورة، التبديل العشوائي بين الصيغ في مستند واحد. كل واحد من هذه الانتهاكات بالكاد ملحوظ بذاته، لكنها معاً تجعل المستند غير قابل للاستخدام للمعالجة الآلية أو النشر.

"النموذج لا يفهم وثيقتك — بل يفهم توزيع احتمالات الرمز التالي في سياقها."

المنافسة بين التعليمات والأنماط

عامل آخر هو المنافسة بين التعليمات الصريحة للمستخدم والأنماط الإحصائية المتعلمة أثناء التدريب. إذا سادت Markdown القياسية في بيانات التدريب، سيكون النموذج منجذباً إليها حتى ضد الحظر الصريح. القوالب غير القياسية للشركات والترميز المحدد للمعايير الفنية والأسلوب الهيكلي الخاص بالمؤلف — كل هذا عرضة لـ "الذاكرة" لمجموعة التدريب. علاوة على ذلك، التعليمات الطويلة "تتلاشى" مع تقدم التوليد. بحلول نهاية مستند كبير، ضعفت الانتباه للقيود من الطلب الأصلي — والانجراف الهيكلي يتراكم.

ماذا يعني هذا

بالنسبة للعمل العملي، الخلاصة واضحة: LLMs أفضل في المهام النقطية مقابل التحرير الشامل لمستند كامل في مرة واحدة. بالنسبة للملفات المنظمة المعقدة — المواصفات التقنية والعقود القانونية والمقالات الأكاديمية ذات المراجع المتقاطعة — من الجدير بالتحرير تقسيم المستند إلى أقسام معزولة والعمل مع كل منها بشكل منفصل. يجب أن تكون التعليمات صريحة قدر الإمكان: "غير هذه الفقرة فقط، اترك كل شيء آخر وحده". بعد أي تحرير بواسطة LLM، يلزم التحقق الصريح من العناصر الهيكلية — هذه هي الأولى التي تعاني.