أوضحت Pangram Labs ما إذا كان يمكن التمييز بشكل موثوق بين نص AI ونص بشري

تحاول Pangram Labs حل مهمة تصبح أكثر تعقيداً مع كل جيل جديد من النماذج: تحديد ما إذا كان النص مكتوباً من قبل إنسان أو تم إنشاؤه بواسطة الذكاء الاصطناعي. شرح رئيس الشركة ماكس سبيرو في بودكاست Odd Lots كيفية عمل هذه الكاشفات ولماذا الكتابة الواسعة النطاق التي تنتجها الذكاء الاصطناعي تغير بالفعل البنية الأساسية للإنترنت.

كيفية البحث عن الآثار

وفقاً لسبيرو، فإن مهمة الكشف لا تتعلق بإيجاد 'علامة سرية' واحدة، بل بتقييم مجموعة من الخصائص التي تظهر بشكل أكثر تكراراً في النصوص الاصطناعية. يتضمن ذلك القابلية للتنبؤ بالصيغ، والهياكل المكررة، والنبرة الموحدة بشكل مفرط، والتشابه الإحصائي الكلي مع ردود نماذج اللغة الكبيرة.

لا تقرأ هذه الأنظمة النص مثل ناقد أدبي. فهي تحاول قياس احتمالية أن تكون المادة أمامهم قد تم تجميعها بواسطة جهاز من أكثر نماذج اللغة نموذجية وأماناً.

هذا مهم بشكل خاص الآن، حيث تعلمت النماذج الكتابة بشكل ملحوظ أفضل مما كانت عليه قبل سنة. في حين أن النصوص الأولى المولدة بواسطة الذكاء الاصطناعي كانت تخون نفسها بسهولة من خلال الجفاف والنمطية، فإن الإصدارات الأحدث يمكنها محاكاة الكلام الطبيعي وإضافة إيقاع وحتى الحفاظ على نبرة المؤلف.

لذلك، تعمل أجهزة الكشف الحديثة أكثر كمرشح احتمالي. فهي أكثر فائدة على أحجام كبيرة من المحتوى—على سبيل المثال، عند التحقق من آلاف المقالات والتقييمات أو المنشورات—أكثر من كونها حكماً مطلقاً على فقرة قصيرة واحدة.

أين ستكون هذه مفيدة

لا يقتصر الاهتمام بمثل هذه الأدوات على التحقق الأكاديمي. احتل النص المولد بواسطة الذكاء الاصطناعي بسرعة مساحة كانت تتطلب سابقاً محررين وكتاب نصوص وفرق SEO وخدمات الإشراف. يمتلئ الإنترنت بشكل متزايد بالصفحات المولدة تلقائياً وبطاقات المنتجات والنصائح الزائفة والمتخصصة وأصول مقالات الأخبار. بالنسبة للمنصات والناشرين، السؤال لم يعد ما إذا كان مثل هذا المحتوى موجوداً، بل كيف يمكن تمييز المواد المفيدة عن ضجيج المحتوى الرخيص الذي يزدحم نتائج البحث ويؤدي إلى تآكل الثقة.

• التحقق من الأعمال الأكاديمية والتنافسية
• تصفية بريد SEO المزعج ومزارع المحتوى
• الإشراف على المراجعات والتعليقات والتقديمات
• التحقق من المواد في المنصات الإعلامية والأسواق الرقمية
• تقييم المخاطر لنشر المحتوى الموسوم برند

ومع ذلك، فإن مجرد استخدام الذكاء الاصطناعي لا يجعل النص سيئاً. بالنسبة للعديد من الفرق، إنها بالفعل أداة عمل شائعة: يساعد النموذج في تجميع مسودة أو تقليل وقت البحث أو إعادة كتابة جزء بأسلوب معين. تبدأ المشكلة حيث يتم إخفاء المحتوى الاصطناعي كرأي مستقل أو خبرة إنسانية أو خبرة أصلية. لهذا السبب تتجاوز النقاش حول أجهزة الكشف بسرعة التحقق التقني وتنحصر في مسألة الشفافية.

حدود الكشف

الصعوبة الرئيسية هي أن الحد الفاصل بين النص 'البشري' و'الآلي' يتلاشى. يمكن للمؤلف أن يأخذ مسودة مولدة بواسطة الذكاء الاصطناعي وإعادة كتابتها بشكل كبير وإضافة حقائق وإزالة القوالب وجعل المادة حقاً ملكاً له. الحالة المعاكسة ممكنة أيضاً: يكتب شخص بطريقة جافة وموحدة ويمكن التنبؤ بها للغاية، مما يسبب خطأً في نظام آلي يزيد احتمال الكتابة بواسطة الذكاء الاصطناعي. لذلك، فإن أي أداة من هذا القبيل تعيش حتماً في عالم من الإيجابيات الخاطئة والقضايا المتنازع عليها والمناطق الرمادية.

على خلفية هذا، يتم مناقشة مستقبل الإنترنت بشكل متزايد ليس كمعركة بين البشر والآلات، بل كنضال من أجل الثقة في المحتوى. إذا تم إطلاق جزء كبير من النصوص والمراجعات والإجابات والتعليمات تلقائياً، فستحتاج المنصات إلى بناء طبقات تحقق إضافية: علامات الأصل وسجل التحرير والإشارات السمعة وقواعد الكشف عن استخدام الذكاء الاصطناعي والإشراف الأكثر صرامة على شبكات بريد المحتوى المزعج. يبدو أن أجهزة الكشف مثل حل Pangram Labs في مثل هذا الإطار ليست إجابة نهائية، بل عنصراً واحداً في بنية ثقة أوسع نطاقاً.

ماذا يعني هذا

أدوات التعرف على النص المولد بواسطة الذكاء الاصطناعي تصبح سوقاً منفصلة لأن الإنترنت يمتلئ بسرعة بالمحتوى الاصطناعي. الفائز لن يكون من يجد الكاشف المثالي، بل من يدمج بشكل أفضل التحقق من أصل النص في العمليات التحريرية والتعليمية والمنصات.