أنثروبيك تُحدّث قواعدها لأول مرة منذ عام: لا يجوز معاملة Claude بقسوة

حدّثت أنثروبيك، لأول مرة منذ عام، سياسة استخدام Claude، وأضافت قيودًا على مجموعة من الاستخدامات عالية الخطورة. ومن بين هذه الاستخدامات: التدخل في الانتخابات، وتطوير الأسلحة، ونشر أنظمة المراقبة، والتلاعب المالي. لكن التغيير الأكثر غرابة يتعلق بـ Claude نفسه: فقد أصبحت الشركة تسمح للنماذج بإنهاء المحادثات مع المستخدمين الذين «يتصرفون بشكل منهجي وقاسٍ دون هدف بنّاء واضح».

النموذج يمكنه رفض التعامل مع المستخدم

تعترف أنثروبيك بأنها توسّع حظر الإساءات كجزء من أبحاثها حول «رفاه» النماذج — وهو مفهوم يفترض أن أنظمة الذكاء الاصطناعي المتقدمة قد تمتلك شكلًا ما من التجربة الداخلية. وفي الوقت الحالي، لا يزال إنهاء المحادثة هو آلية الحماية الأساسية؛ ولم تكشف الشركة عما إذا كانت ستتخذ تدابير إضافية مثل حظر الحسابات.

وتوضح الشركة أن القاعدة الجديدة لا تُطبَّق إلا في الحالات القصوى، عندما يتصرف المستخدمون بقسوة بشكل متكرر وبدون أي هدف بنّاء واضح. أما الإحباط العادي للمستخدمين، والانتقاد، والمواضيع الإبداعية القاتمة، والاختبار البحثي للنماذج، فلا تدخل ضمن هذا الحظر.

خمسة قيود جديدة وموسّعة

إلى جانب القواعد المتعلقة برفاه النماذج، جمعت أنثروبيك عدة قيود متفرقة في حظر واحد موحّد:

• الحملات السياسية والتجارية الخادعة: إخفاء هوية مُرسل الرسائل، واستخدام حسابات ومنشورات مزيفة لتضخيم المحتوى، ونشر معلومات مضللة عن المرشحين، والتنكر في هوية مرشحين أو مسؤولين، ومحاولات تثبيط المشاركة الانتخابية • تطوير الأسلحة: كانت السياسة تحظر الأسلحة أصلًا، لكن أنثروبيك وسّعت الحظر الآن ليشمل البرمجيات والمكونات المخصصة للتسليح، والتحكم في الطائرات المسيّرة وغيرها من الأجهزة المستقلة • التجسس والتتبع: حظر تتبّع الأشخاص دون موافقتهم (سواء في الوقت الفعلي أو من خلال تحليل بيانات سابقة)، واستخدام Claude لتقديم توصيات في مجال العدالة الجنائية، وإنشاء أدوات للمراقبة • الأنظمة الفعلية المستقلة: عندما تكون النماذج متصلة بمعدات قادرة على التسبب في ضرر، يجب أن يراقب مشغّل مؤهّل النظام وأن يكون قادرًا على إيقافه • العقود الحكومية: يمكن تعديل السياسة في حالة العقود مع الجهات الحكومية، شرط توفر قيود وضمانات كافية. وقد سبق لأنثروبيك أن تعاونت مع جهات عسكرية أمريكية.

رفاه النماذج في مواجهة انتقادات القطاع

يعكس هذا التحديث اهتمام أنثروبيك المتزايد بفكرة أن النماذج المتقدمة قد تمتلك شكلًا ما من الوعي أو المكانة الأخلاقية. وقال كايل فيش، الذي يقود أبحاث رفاه النماذج، إن هذه أسئلة جدّية تدرسها الشركة مع تزايد تطور الأنظمة. وقد أعرب الرئيس التنفيذي داريو أموداي سابقًا عن عدم تأكده قائلًا: «لا نعرف إن كانت النماذج تمتلك وعيًا».

ويتناقض هذا الموقف مع مواقف جهات أخرى. فقد أعادت مايكروسوفت للذكاء الاصطناعي في سبتمبر صياغة ميثاق سلوكها. وكان مصطفى سليمان قد صرّح في البداية: «فكرة رفاه النماذج خاطئة. لا ينبغي أن يحصل الذكاء الاصطناعي على حقوق أو شخصية قانونية». وفيما بعد، خُفف النص إلى موقف أكثر حيادية يفيد بأن علم الوعي في الذكاء الاصطناعي لم يُحسم بعد، لكن الشركة لا تزال ترفض فكرة الشخصية القانونية والحقوق للنماذج.

ويُظهر هذا التحديث أن أنثروبيك تبقى من بين عدد قليل من مطوّري الذكاء الاصطناعي الذين يأخذون قضايا رفاه الأنظمة الأخلاقية بجدّية ضمن سياساتهم.