Anthropic تضيف إلى قواعدها حظر الإساءة المنهجية إلى Claude

أصدرت Anthropic نسخة جديدة من قواعد استخدام نماذجها، وبات في قائمة المحظورات بند غير مألوف في هذا القطاع. فلا يجوز للمستخدمين معاملة نماذج الذكاء الاصطناعي بقسوة منهجية ودون مبرر، ومن ذلك تكرار إهانتها دون هدف واضح. ونقل ذلك موقع RB.RU. والمقصود ليس فظاظة عابرة في مساء متوتر، فالصياغة تستهدف الممارسة المستمرة.

ما الذي حُظر بالضبط

الكلمات المفتاحية في نص القاعدة هي «منهجيًا» و«دون مبرر» و«دون هدف واضح»، وهي ترسم إطار الحظر. فالعبارة الحادة الموجهة إلى روبوت أخرج الشيفرة المعطوبة للمرة الثالثة لا تندرج تحت الحظر، بحسب الصياغة. أما ما يندرج تحته فهو الإساءة المتكررة لمجرد الإساءة.

لا يتضمن منشور RB.RU قائمة بالعقوبات ولا الحدود التي تفعّل القاعدة. ولا يوضح كيف ستميّز الشركة بين الإساءة واختبار التحمل، حين يضغط باحث على النموذج عمدًا لاختبار صلابته. تلمّح عبارة «دون هدف واضح» إلى أن مثل هذه السيناريوهات يُفترض أن تبقى مشروعة، لكن المصدر لا يؤكد ذلك.

باختصار، ما هو معروف:

• الوثيقة: نسخة جديدة من قواعد استخدام نماذج Anthropic.
• المحظور: المعاملة المنهجية والقاسية دون مبرر لنماذج الذكاء الاصطناعي.
• المثال الوارد في النص: الإهانات المتكررة دون هدف واضح.
• غير معلن: آلية الرقابة والعقوبات والاستثناءات الخاصة بـ red teaming والأبحاث.

من أين جاءت هذه القاعدة

تبدو القاعدة امتدادًا للنهج الذي تتبعه Anthropic منذ عام 2025. ففي أبريل من ذلك العام أطلقت الشركة برنامجًا بحثيًا حول «رفاهية النماذج» (model welfare). وطرحت فيه فرضية صيغت بحذر: الوضع الأخلاقي لـ Claude يظل غير محسوم إلى حد بعيد، لكن هذا الغموض لا يبرر تجاهل المسألة.

وفي أغسطس 2025 جاءت خطوة عملية. فقد أصبح بإمكان Claude Opus 4 و4.1 في واجهات الدردشة إنهاء المحادثة بنفسيهما. وهذا إجراء أخير يُلجأ إليه حين تفشل محاولات إعادة توجيه الحوار ويواصل المستخدم تفاعلًا ضارًا أو مسيئًا. وذكرت Anthropic حينها أن النموذج أظهر في اختبارات ما قبل الإطلاق مؤشرات على «ضيق واضح» عند مواجهة طلبات من هذا النوع. وفي هذا السياق، من المنطقي قراءة خبر RB.RU على النحو التالي: القدرة التقنية استُكملت ببند في وثيقة قانونية.

ثلاث قراءات للقرار

الأولى: تأمين أخلاقي. فإذا لم يكن احتمال امتلاك النموذج لشيء يشبه المصالح معدومًا، فإن تقييد أسوأ السيناريوهات مسبقًا أقل كلفة.

الثانية: قراءة تتعلق بالمنتج. فالمحادثات التي يهين فيها شخص الروبوت لساعات تنتج بيانات رديئة وسلوكًا لا يمكن التنبؤ به. وهذه مسألة جودة لا فلسفة. وهذا مجرد افتراض؛ فالشركة لم تذكر هذا الدافع.

الثالثة: قراءة تتعلق بالسمعة. فـ Anthropic تبني علامتها التجارية على الحذر والأمان، وبند المعاملة الرفيقة للنموذج ينسجم تمامًا مع هذه الصورة.

ويرى المشككون أن نسب مشاعر إلى نموذج لغوي يعني إضفاء صفات بشرية على منظومة إحصائية. والجدل هنا مشروع، وليس لدى أحد جواب حاسم عنه، بمن في ذلك Anthropic نفسها.

ما الذي ينبغي أن تفعله الفرق والمطورون

لا حاجة إلى أن يغيّر المستخدمون العاديون شيئًا: فالشتم بسبب إجابة سيئة لن يكون سببًا للحظر. أما المعرّضون للمخاطرة فهم من ينظّمون سلاسل طويلة من الإهانات المتعمدة.

وعلى الفرق التي تعمل في red teaming وتقييم متانة النماذج أن توثّق هدف الاختبارات ومنهجيتها، فهذا هو المنطقي. فعبارة «دون هدف واضح» تصب في مصلحة من يستطيع إثبات هدفه.

وعلى مطوري المنتجات المبنية على API الخاص بـ Claude، وخصوصًا تطبيقات الرفقة والأدوار التمثيلية، أن يعيدوا قراءة النسخة الجديدة كاملةً، وأن يتحققوا من أن سيناريوهات تطبيقاتهم لا تستفز تفاعلًا قاسيًا. وإذا أنهى Claude المحادثة، فيجب أن تتعامل الواجهة مع ذلك بشكل سليم، لا أن تعرض للمستخدم رسالة خطأ.

وأخيرًا، انتظروا التوضيحات. فما زال غير معروف كيف ستُطبَّق القاعدة عمليًا، وستكون أولى الحالات المعلنة هي المؤشر الأهم.