بنشمارك Learn2Discern: النماذج اللغوية الكبيرة بالكاد تميّز المصادر الموثوقة من المصادر الشائعة
قدّم باحثون بنشمارك Learn2Discern واختبروا به 13 نموذجًا لغويًا في نحو 670 ألف اختبار. والنتيجة أن النماذج تميّز المصادر الموثوقة من غير الموثوقة بمستوى التخمين العشوائي، وتعتمد على شعبية المصدر ضعف اعتمادها على صحة ما يقدّمه. وأكّد استطلاع شمل 299 مستخدمًا أن إخفاقات من هذا النوع تقوّض الثقة بالذكاء الاصطناعي.
معالج بواسطة الذكاء الاصطناعي من arXiv cs.AI؛ بتحرير Hamidun News
في يوليو 2026 نشر باحثون على arXiv دراسة عن «تمييز المعلومات» (information discernment) لدى النماذج اللغوية الكبيرة، وقدّموا بنشمارك Learn2Discern (L2D). وأظهرت الاختبارات على 13 نموذجًا وفي نحو 670 ألف اختبار أن النماذج تميّز المصادر الموثوقة من غير الموثوقة بمستوى يقارب التخمين العشوائي.
ماذا يقيس Learn2Discern
يقيّم Learn2Discern مهارتين لدى النموذج عند تعامله مع بيانات خارجية: تمييز المصدر (source discernment)، أي هل يثق النموذج بالمصدر الموثوق أكثر من غيره، وتمييز الحقيقة (truth discernment)، أي هل يعدّل إجابته بدرجة أكبر حين يقرّبه الادعاء الجديد من الحقيقة. ويقوم الإطار على ثلاث بديهيات معيارية مع مقاييس يمكن تفسيرها. وبحسب المؤلفين، يتبنّى المستخدمون الفعليون هذه المبادئ: فقد أظهر استطلاع مسجَّل مسبقًا بعيّنة حصصية (n=299) أن انتهاكها يخفّض الثقة بالنموذج والاستعداد لاستخدامه.
أبرز النتائج
تخفق النماذج في البعدين كليهما: فنتائجها في موثوقية المصدر وفي القرب من الحقيقة تبقى عند مستوى عشوائي.
- 13 نموذجًا، ونحو 670 ألف اختبار (trials)
- تعتمد النماذج على شعبية المصدر ضعف اعتمادها على موثوقيته
- تعدّل إجاباتها بالقدر نفسه تقريبًا، سواء قرّب الادعاء من الحقيقة أم أبعد عنها
- تدمج المعرفة الخارجية على أفضل وجه حيث تكون معارفها المسبقة (priors) هي الأدق أصلًا
- استطلاع المستخدمين: n=299، عيّنة حصصية، تسجيل مسبق
«تعمل النماذج بمستوى قريب من التخمين العشوائي في موثوقية المصدر وفي
القرب من الحقيقة على السواء»، حسب ما جاء في ملخص الدراسة على arXiv.
لماذا لا تنقذ النماذج الأحدث الموقف
تحسّن النماذج الأكبر والأحدث تمييز الحقيقة فقط، ولا تحسّن تمييز المصدر. وهذه نقطة عمياء لا يعالجها ازدياد تعقيد النموذج: فالقدرة على التفريق بين المصدر الموثوق والمصدر الشائع لا تنمو مع الحجم. والأسوأ، بحسب نتائج Learn2Discern، أن النماذج تدمج المعرفة الخارجية بأكبر فاعلية حيث تكون معارفها المسبقة دقيقة أصلًا، أي أنها تساعد نفسها حيث تكون الحاجة إلى المساعدة أقل. ومع ذلك وجد المؤلفون خبرًا جيدًا: تدخلات بسيطة في مرحلة الاستدلال (inference-time) تحسّن المهارتين معًا، ودون إعادة تدريب النموذج.
ماذا يعني ذلك
مع حلول النماذج اللغوية الكبيرة محل البحث التقليدي، تصبح القدرة على التمييز بين المصدر الموثوق والمصدر الشائع فقط خاصية حاسمة في مواءمة النماذج (alignment). وحتى الآن، ووفق ما أظهرته النماذج الـ13 المختبَرة، فهي غير مدرَّبة على هذه المهارة، ولا يحلّ حجم النموذج المشكلة. وقد أتاح المؤلفون مجموعة البيانات والاستطلاع للعموم كمنصة اختبار لهذه المهمة.
الأسئلة الشائعة
ما هو Learn2Discern؟
Learn2Discern (L2D) إطار تجريبي وبنشمارك لتقييم كيفية وزن النماذج اللغوية الكبيرة للمعلومات الخارجية: هل تثق بالمصادر الموثوقة، وهل تقترب من الحقيقة. وهو مبني على ثلاث بديهيات معيارية مع مقاييس يمكن تفسيرها، وقد أتاح المؤلفون مجموعة البيانات والاستطلاع لإعادة الاستخدام.
ما النماذج التي جرى اختبارها؟
شملت الدراسة 13 نموذجًا في نحو 670 ألف اختبار. وأظهرت جميعها تمييزًا للمصادر وللحقيقة بمستوى قريب من العشوائي، فيما حسّنت النماذج الأحدث والأكبر تمييز الحقيقة فقط، لا تمييز المصدر.
لماذا يهم ذلك البحث المدعوم بالذكاء الاصطناعي؟
حين تحلّ النماذج اللغوية الكبيرة محل محركات البحث، فهي التي تقرّر أي مصدر تصدّقه. وإذا كان النموذج يعتمد على شعبية المصدر ضعف اعتماده على موثوقيته، فإنه يخاطر بتكرار ادعاءات شائعة لكنها غير صحيحة.
Access Frontier LLMs & Multimodal AI in One Workspace
Discover NomadNet AI (nomadnet.ai) — unified access to frontier language models, research synthesis, and multimodal workflows.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.