Hallucination Self-Play: نموذج لغوي صغير تفوّق على نماذج LLM الكبيرة في اكتشاف الهلوسة
قدّم الباحثون Hallucination Self-Play (HSP)، وهي طريقة يتطوّر فيها كاشف الهلوسة ومولّدها معًا: إذ يُنشئ المولّد هلوسات يصعب اكتشافها بشكل متزايد، بينما يتعلّم الكاشف التعرّف عليها. وعلى معيار RAGTruth، عادل نموذج LLM صغير جرى تدريبه باستخدام HSP نماذج لغوية متقدمة أو تفوّق عليها، من دون أي وسم خارجي للبيانات.
معالج بواسطة الذكاء الاصطناعي من arXiv cs.CL؛ بتحرير Hamidun News
هلوسة الذاتي: نموذج لغة صغير تفوق على نماذج لغة كبيرة متقدمة في كشف الهلوسات
نشرت مجموعة بحثية على arXiv في يوليو 2026 ورقة تصف إطار عمل Hallucination Self-Play (HSP) - نظام تعلم متبادل بين كاشف ومولد الهلوسات. على معيار RAGTruth، حقق نموذج لغة صغير خضع لدورة HSP أو تفوق على نماذج لغة متقدمة دون أي سطر واحد من التعليقات الخارجية.
لماذا كشف الهلوسات صعب جداً
المشكلة الرئيسية عند تدريب كواشف الهلوسات هي النقص الحاد في البيانات المصنفة عالية الجودة. تستخدم الطرق القائمة نماذج لغة كبيرة لإنشاء أمثلة تدريبية تلقائياً: بيانات مهلوسة، علامات المصداقية، تفسيرات. هذا يقلل الاعتماد على العمل اليدوي - لكنه ينشئ قيداً آخر: يبقى المولد أداة ثابتة.
يتم إنشاء البيانات مرة واحدة ولا يتم تحديثها أبداً، بغض النظر عن عدد الأخطاء التي يرتكبها الكاشف. الهلوسات في مجموعة التدريب لا تصبح أكثر تعقيداً مع تحسن النموذج. يزيل HSP هذا العيب بالضبط.
كيف يعمل آلية اللعب الذاتي
يتم تهيئة كلا المشاركين - الكاشف والمولد - من نموذج أساسي واحد. هذا أساسي: ببدء المواقف المتساوية، يكون المولد قادراً في البداية على إنشاء أمثلة يمكنها أن "تخدع" الكاشف فعلاً.
يعمل الإطار في ثلاث مراحل:
- المرحلة الأولى. يتم تحسين الكاشف على مجموعة صغيرة مع التعليقات البشرية - يتعلم تقييم مدى دقة إجابة النموذج بالنسبة للسياق المعطى (الأمانة).
- المرحلة الثانية. يصبح الكاشف المدرب نموذج مكافأة. يتم تدريب المولد عبر RLAIF (تعزيز التعلم من ملاحظات الذكاء الاصطناعي): مهمته هي إنشاء هلوسات لا يعترف بها الكاشف. كلما كانت الهلوسة أكثر إقناعاً - كانت المكافأة أعلى.
- المرحلة الثالثة. يولد المولد المتطور أمثلة تدريبية جديدة أكثر صعوبة، والتي يتم تحسين الكاشف عليها من خلال التعلم المعزز القائم على القواعد. تتكرر الدورة.
تظهر "سباق تسلح": يجعل المولد الهلوسات أكثر فأكثر غموضاً - الكاشف بدوره يصبح أكثر دقة.
ماذا أظهرت التجارب
اختبر المؤلفون HSP على معيار RAGTruth، الذي تم تطويره لتقييم مصداقية الإجابات في الأنظمة مع توليد معزز بالاسترجاع (RAG). تم إجراء الاختبار على عائلتين من نماذج اللغة.
- الطريقة - Hallucination Self-Play (HSP)، ورقة preprint على arXiv، يوليو 2026
- معيار - RAGTruth (مصداقية الإجابات في أنظمة RAG)
- يتم تهيئة كلا الدورين من نموذج أساسي واحد
- تحسن اللعب الذاتي - بالكامل بدون تعليقات خارجية
- الكود متاح في مستودع GitHub مجهول (قيد المراجعة)
النتيجة الرئيسية: نموذج لغة صغير تم تدريبه باستخدام نظام HSP يحقق أو يتفوق على نماذج لغة كبيرة في مهمة كشف الهلوسات. يشدد المؤلفون: لا يلزم تدريب خارجي إضافي خلال مرحلة اللعب الذاتي - يتم تحقيق تحسن الجودة حصراً من خلال التطور المتبادل للكاشف والمولد.
ماذا يعني هذا
يوفر HSP إجابة عملية على أحد أصعب الأسئلة عند نشر نماذج لغة كبيرة في الإنتاج: كيفية التحكم في الهلوسات بدون تعليق يدوي لا نهائي. إذا تم تأكيد النتائج من خلال الاستنساخ المستقل، فقد تصبح الطريقة مكوناً معيارياً في خط أنابيب أنظمة RAG - خاصة حيث تكون تكلفة الخطأ الواقعي عالية: الطب والقانون والتحليل المالي.
هل تحتاج إلى ذكاء اصطناعي يعمل داخل شركتك — وليس فقط في موجز الأخبار؟
أبني ذكاءً اصطناعياً جاهزاً للإنتاج للشركات — أنظمة CRM مخصّصة، أدوات داخلية، وكلاء مستقلون، أتمتة سير العمل. ملك لك، مصمّم وفق عمليتك، دون رسوم لكل مستخدم. من إعداد جمال خميدون، مدير المنتجات في AlpinaGPT (منصة ذكاء اصطناعي، أكثر من 6000 مستخدم).
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.