AutoIndexer يعلّم النموذج اللغوي تصحيح مخرجاته بثلاثة أنواع من التعديلات

نشر باحثون AutoIndexer، وهو نموذج توليدي قادر على العودة إلى نص كُتب بالفعل وتعديله بثلاث عمليات: إدراج الرموز (tokens) واستبدالها وحذفها. فبدلًا من التقدم الصارم من اليسار إلى اليمين، يعمل النموذج كمحرر نصوص له مؤشر. صدرت الورقة التمهيدية 2610.12545 في arXiv cs.CL بتاريخ 12 أكتوبر 2026، والشيفرة متاحة في مستودع مفتوح AutodeskAILab/autoindexer.

المشكلة الأصلية يعرفها كل من عمل مع نماذج LLM. فنموذج الانحدار الذاتي يُخرج رمزًا تلو الآخر، ولا يمكن تصحيح ما كُتب. وهذا غير مريح عندما يكون ترتيب التبعيات في البيانات غير بديهي، كالإحالات المتقاطعة أو الارتباط بما سيظهر لاحقًا في النص. أما الإنسان فيكتب في هذه الحالة مسودة، ثم يعود إلى الوراء ويصحح. وتسد نماذج اللغة الانتشارية الفجوة جزئيًا، لكنها، بحسب المؤلفين، لا تزال عاجزة عن الإدراج المرن في سياق جاهز، أو الحذف منه، لعدد اعتباطي من الرموز.

كيف تعمل سلسلة التعديلات

يسمّي المؤلفون نهجهم Chain of Edits. يتنبأ النموذج برموز علامات خاصة تفتح التعديل وتغلقه. وفي الوقت نفسه ينقل المؤشر إلى الموضع المطلوب في التسلسل الموجود. وبهذا تجتمع العمليات الثلاث في آلية واحدة: إدراج رموز جديدة، واستبدال الرموز القائمة، وإزالة الزائد منها.

تُجمع بيانات التدريب بطريقة غير تقليدية. تؤخذ الإجابات المرجعية وتُفسد بسلسلة من العمليات العكسية، أي تُدخل عليها عمدًا عمليات إدراج واستبدال وحذف. ويتعلم النموذج استعادة الأصل بالتراجع عن هذه التشويهات. وهكذا يصبح التحرير هنا نتيجة مباشرة لمهمة التدريب، وليس طبقة إضافية فوق نموذج جاهز.

ولهذا التدريب أثر جانبي يشدد عليه المؤلفون بشكل منفصل. فما دام النموذج معتادًا على رؤية سياق «مشوَّش»، فهو أكثر مقاومة للأخطاء فيه وأنسب لمهام التصحيح، ومنها تصحيح الشيفرة البرمجية.

ما الذي يُعلَن عنه

• العمليات: إدراج الرموز واستبدالها وحذفها في سياق مُولَّد بالفعل.
• الآلية: رموز علامات لفتح التعديل وإغلاقه، إضافة إلى نقل المؤشر عبر التسلسل الموجود.
• التدريب: إحداث اضطراب في التسميات المرجعية بسلاسل تعديلات عكسية، ويتعلم النموذج إلغاءها.
• النتيجة: القدرة على تحرير السياق بعد التوليد، وهي قدرة لا تتوافر، بحسب المؤلفين، لدى معظم نماذج الانحدار الذاتي والنماذج الانتشارية.
• الجودة: يُعلَن عدم حدوث تراجع في المعايير القياسية لنماذج LLM.
• الإتاحة: الشيفرة منشورة على GitHub.

لا يتضمن الملخص أحجام النماذج، ولا مقاييس محددة، ولا أسماء المعايير. وعبارة «دون المساس بالجودة» تحتاج إلى تحقق من الجداول في النص الكامل للورقة. وثمة سؤالان مفتوحان على الأقل. الأول: كم تبلغ كلفة التحرير بالرموز وزمن الاستجابة، إذ تطيل علامات التعديل وحركات المؤشر المخرجات. والثاني: إلى أي مدى تنتقل الطريقة إلى النماذج الكبيرة، ما دام التدريب قائمًا على تشويهات اصطناعية.

أين يمكن اختبار ذلك عمليًا

أقرب مجال تطبيقي هو تصحيح الشيفرة البرمجية. فالتعديل هنا موضعي، والخطأ كثيرًا ما لا يُكتشف إلا بعد اكتمال كتابة الدالة. المجال الثاني هو المستندات المنظمة، حيث تعتمد الإحالات وفهارس المحتويات على محتوى لم يكن موجودًا بعد لحظة بدء التوليد. والثالث هو خطوط العمل الوكيلية (agentic pipelines)، التي يعدّل فيها النموذج مسودته بنفسه بدلًا من إعادة التوليد بالكامل.

وينبغي على الفريق الذي يبني أدوات للمطورين أو يعمل على المستندات أن يأخذ المستودع ويشغّله على مهام تصحيح الشيفرة (code correction) الخاصة به. وتجب المقارنة مع نموذج انحدار ذاتي أساسي وفق ثلاثة مؤشرات: نسبة الأخطاء المصححة، وعدد الرموز المولَّدة، وزمن الاستجابة. فإذا كان التعديل أقل كلفة فعلًا من إعادة التوليد، فللنهج جدوى تجارية. وإن لم يكن كذلك، فسيبقى أسلوبًا بحثيًا مثيرًا للاهتمام.