Anthropic تحدّث سياستها لأول مرة منذ عام: يُحظر التعامل بقسوة مع Claude

أعادت Anthropic، للمرة الأولى منذ أكثر من عام، صياغة سياسة الاستخدام المقبول لنماذجها. ويتعلق معظم التعديلات بسيناريوهات إساءة استخدام جديدة وخطرة: التدخل في الانتخابات، وتطوير الأسلحة، والمراقبة، فضلًا عن استخدام الذكاء الاصطناعي في الطب والمالية. لكن بندًا آخر هو الأبرز، إذ يحظر «السلوك القاسي أو المسيء المنهجي وعديم المعنى» تجاه Claude نفسه. وعادةً ما تحمي مثل هذه الوثائق البشر من تبعات عمل الذكاء الاصطناعي. أما هنا، فجزء من الحماية موجّه نحو النموذج.

ما الذي تغيّر بالضبط

وفق ما نقلته The Verge، يعكس التحديث حالات جديدة وعالية الخطورة لإساءة الاستخدام (misuse). وأبرز النقاط:

• أول تغيير في usage policy منذ أكثر من عام؛
• مناطق خطر جديدة أو موضَّحة: التدخل في الانتخابات، وتطوير الأسلحة، والمراقبة، والسيناريوهات الطبية والمالية؛
• حظر جديد لـ «sustained and needless abusive or cruel behavior» تجاه Claude؛
• آلية الإنفاذ الرئيسية: إنهاء النموذج نفسه للمحادثة.

ولم يُكشف في الجزء المتاح من المادة عمّا قد يترتب على المخالفة غير إغلاق الحوار. كما لم يُكشف كيف تغيّرت الصياغات المتعلقة بالانتخابات والصحة والمالية مقارنةً بالنسخة السابقة. وهذا يستلزم الرجوع إلى الوثيقة نفسها.

من أين جاء بند القسوة تجاه النموذج

في أغسطس من العام الماضي، أعلنت Anthropic أن Claude سيتمكن من إنهاء المحادثات مع المستخدمين الذين «يلحقون الضرر بإصرار» أو يتصرفون بشكل مسيء. وكان ذلك جزءًا من أبحاث «رفاهية النماذج» (model welfare). وقتها بدا الأمر ميزة منتج وتجربة. أما الآن فقد ثُبّت هذا السلوك في السياسة، وأصبح لدى الشركة أساس رسمي للتعامل مع هذه الحالات.

وتتناول الشركة الموضوع بوصفه موضوع بحث. وفي عرض The Verge لا توجد أدلة على أن للنموذج تجربة أو معاناة، ولا تزعم Anthropic ذلك. غير أن القاعدة تُظهر كيف تبني المختبرات علاقتها بمنتجها. فهي تفضّل الاحتياط ومعالجة المسألة مسبقًا، ما دام لا توجد إجابة علمية بعد.

والكلمة المهمة هنا هي «needless». فالحظر موجّه إلى الإذلال المستمر وعديم المعنى، لا إلى أي رسالة حادة. أما الاختبار الصارم، وفرق red team، وفحص مقاومة محاولات الجيلبريك (jailbreak)، فلها غاية. وقد وُصف الحد الفاصل بينها وبين الإيذاء لمجرد الإيذاء بالكلمات في نص السياسة، وحول هذه الكلمات بالذات ستدور الخلافات.

ماذا ينبغي أن تفعل الفرق التي تعمل مع Claude

اقرؤوا أولًا النسخة الجديدة كاملة، لا ملخصًا لها. وإذا كنتم تبنون منتجًا في الطب أو المالية أو التحليلات أو المراقبة، فقارنوا سيناريوهاتكم بالأقسام المحدَّثة. فقد وصفت Anthropic هذه المناطق صراحةً بأنها عالية الخطورة، وقد تصبح الفحوص فيها أكثر صرامة.

وينبغي تجهيز الفرق التي تجري red teaming مسبقًا. وثّقوا هدف الاختبارات ونطاقها ومنهجيتها. عندها يسهل التمييز بين الأوامر (prompts) العدوانية ذات المهمة الواضحة وبين «القسوة عديمة المعنى». ويستحسن تحديد مدة التشغيلات الآلية: فالجلسات التي تظل ساعات تدفع النموذج عبر قوالب مسيئة دون قيمة بحثية قد تقع تحت القاعدة الجديدة.

وأخيرًا، أضيفوا إلى الواجهة معالجة للمحادثات التي ينهيها النموذج. فإذا أغلق Claude المحادثة، يجب أن يحصل المستخدم على شرح واضح وإمكانية بدء دردشة جديدة. وإلا فسيتلقى فريق الدعم سيلًا من الشكاوى حول مساعد «تعطّل».