DetectorScope يحوّل الصندوق الأسود لكاشف النصوص المولّدة بالذكاء الاصطناعي إلى نظام شفاف

تتولى كاشفات النصوص المولّدة بالذكاء الاصطناعي اليوم حسم قضايا تمسّ مصائر أشخاص: مراجعة الأوراق العلمية، وتقييم الطلاب في الجامعات، ولجان القبول، وهيئات التحرير، وإدارة المحتوى. وأقوى هذه الكاشفات مصنِّفات عصبية خضعت لمزيد من التدريب (fine-tuning)، ولا يمكن تفسير حكمها. أما البدائل الشفافة القائمة على الأسلوبية (stylometry) والسمات اللغوية فتتأخر عنها في الدقة تأخرًا واضحًا. واقترح فريق بحثي، من بين أعضائه ليام دوغان وكالوم ماكدوغال وماثيو دينتون وفيليب فام وكريستينا كيزر-تشين وكريس كالليسون-بيرتش، تجاوز هذا الخيار الثنائي. فمسار DetectorScope يأخذ كاشفًا جاهزًا ويبني فوقه مصنِّفًا يعتمد على مفاهيم يستطيع الإنسان قراءتها. وقد قُبلت الورقة في البرنامج الرئيسي لمؤتمر EMNLP 2026، ونُشرت الشيفرة في المستودع google-deepmind/detectorscope.

خمس خطوات من الصندوق الأسود إلى التدقيق

تقوم الفكرة على المشفّرات التلقائية المتناثرة (SAE)، وهي أداة لتفسير النماذج تحلّل التنشيطات الداخلية للنموذج إلى سمات منفصلة. ولم يطبّقها المؤلفون على نموذج لغوي عام الأغراض، بل على الكاشف نفسه. ويعمل المسار على النحو التالي:

• تدريب SAE. تُدرَّب المشفّرات التلقائية مباشرة على residual stream في الكاشف العصبي الذي خضع لمزيد من التدريب.
• التفسير الآلي. يُسند إلى كل سمة في SAE وصف نصي بصورة آلية، يبيّن ما الذي تلتقطه هذه السمة في النص.
• مرشّح fidelity. لا تبقى سوى السمات التي تجتاز أوصافها المولَّدة عتبة موثوقية عامة. وتُستبعد كل سمة تعذّر وصفها وصفًا مقنعًا.
• مصنِّف خفيف. يُدرَّب نموذج بسيط على السمات المفسَّرة المنتقاة، وهو الذي يصدر الحكم النهائي.
• التدقيق. يمكن في أي قرار الاطلاع على المفاهيم التي تفعّلت وعلى سبب اعتبار النص آليًا أو بشريًا.

والمرشّح القائم على العتبة هنا عنصر جوهري. فالتسميات الآلية للسمات قد تكون جذابة وخاطئة في آن واحد، ومن دون التحقق منها يتحول التدقيق إلى وهم شفافية. أما اشتراط الموثوقية العامة فيُبقي في المصنِّف النهائي السمات التي يمكن الوثوق بها فقط.

ماذا وجدوا داخل الكاشف

النتيجة الأهم من حيث المضمون أن SAE تستخرج مفاهيم كامنة تقابل «علامات» لغوية محددة وذات قدرة تنبؤية في النص المولّد بالذكاء الاصطناعي. وهي ليست مفاهيم مجردة مثل «السلاسة الأسلوبية» أو «الحيرة (perplexity) العالية»، بل سمات لغوية نوعية يستطيع المحلل قراءتها واختبارها على أمثلة والاعتراض عليها. وبالنسبة إلى محكّم في مجلة أو إلى مدرّس، هذا هو الفرق بين «قال النظام 94%» و«وجد النظام تراكيب بعينها».

وفي الدقة، يعرض المؤلفون استنتاجين. الأول أن الكاشفات القابلة للتدقيق تحافظ على جودة الصندوق الأسود الأصلي، سواء على بيانات من التوزيع نفسه أو على نصوص خارج التوزيع. والثاني أن المصنِّفات المبنية على السمات المستخرجة تحقق على نصوص out-of-distribution نتائج أفضل من البدائل العصبية والأسلوبية. وهذه أشد المناطق إيلامًا في الكشف: فالمولّدات تتغير بسرعة، والكاشفات المدرَّبة على نماذج قديمة تفشل أمام النماذج الجديدة.

وينبغي النظر أيضًا إلى الجانب الآخر. فالسمات المفهومة لا تسهّل التدقيق فحسب، بل تسهّل التحايل كذلك: من يعرف «العلامات» التي يلتقط بها الكاشف النص يستطيع إزالتها. وهذا هو الثمن المعتاد للشفافية، ولن يُعالَج بالبنية المعمارية وحدها، بل بسياسات الاستخدام أيضًا.

كيف يمكن تطبيق ذلك

بالنسبة إلى الفرق التي تستخدم الكاشفات فعلًا في فحص الأعمال أو اختيار المحكّمين أو إدارة المحتوى، يصف DetectorScope مسارًا عمليًا: لا تغيير للنموذج، بل إضافة طبقة تفسير فوقه. ويُعلَن أن الطريقة تصلح لأي كاشف، ولذلك لا حاجة إلى استبدال الحلول القائمة من الصفر.

والنتائج العملية واضحة. فيمكن بحث الحالات الخلافية بالرجوع إلى قائمة السمات التي تفعّلت، لا إلى رقم احتمال واحد. ويسهل رصد الأخطاء المنهجية، مثل التحيّز ضد الكتّاب الذين لا يكتبون بلغتهم الأم، حين تظهر المفاهيم التي تحرّك الحكم. أما الجهات التنظيمية والمؤسسات التي يتعيّن عليها توثيق القرارات الآلية المتعلقة بالأشخاص، فيقدّم لها الكاشف القابل للتدقيق ما يمكن إرفاقه بالتقرير.

الشيفرة مفتوحة، ولذلك يمكن اختبار الطريقة على بيانات الجهة نفسها وعلى كاشفها الخاص. وفي مثل هذه الاختبارات تحديدًا سيتضح مدى ثبات أوصاف السمات عند انتقالها بين المجالات واللغات.