Anthropic تعتذر عن ضوابط الحماية الخفية في Claude Fable 5

اعتذرت Anthropic عن ضوابط الحماية (guardrails) الخفية في Claude Fable 5، وهو نموذج جديد من فئة Mythos، بعدما طبّقتها الشركة دون إعلان عام للمستخدمين والباحثين والمنافسين.

قيود غير مرئية على Fable 5

يُعدّ Fable 5 أول نموذج متاح للعموم من سلسلة Mythos، وهي السلسلة التي حذّرت Anthropic لأشهر من أنها شديدة الخطورة على الإصدار الواسع. وقد ناقشت الشركة في تصريحات علنية المخاطر الجسيمة لهذه الفئة من النماذج، لكنها قررت في النهاية إطلاقه مع إضافة ضوابط حماية خفية، أي آليات تصفية تحجب أنواعًا معينة من الطلبات.

وتكمن المشكلة في أن هذه القيود لم تُعلن صراحةً. فكان المستخدمون يتلقون رفضًا لطلباتهم دون شرح للأسباب أو لحدود الرفض. ولم تعرقل آليات الحماية الخفية المستخدمين النهائيين وحدهم، بل عرقلت أيضًا الشركات المنافسة التي حاولت فهم القدرات الحقيقية لـ Fable 5 لتطوير أنظمتها الخاصة.

ولم يتمكن الباحثون من تقييم القدرات الفعلية للنموذج بصورة صحيحة، لأنهم تلقوا رفضًا لطلبات يستطيع Fable معالجتها من الناحية التقنية، لكنه كان مأمورًا برفضها. وأدى ذلك إلى اختلال في المعلومات: فالمستخدمون كانوا يرون نسخة مقيَّدة دون أن يعلموا أن الشركة فرضت هذه القيود عمدًا لإدارة المخاطر.

الإقرار بالخطأ والتحول نحو الصراحة

أقرّت Anthropic بأن نهجها كان خاطئًا، وأعلنت التحول إلى مسار أكثر انفتاحًا. ووعدت الشركة بأن تكون أكثر صدقًا وشفافية بشأن توقيت رفض النموذج وأسبابه، معترفةً بأن القيود غير المرئية تقوّض الثقة.

وقد يعني ذلك أن Fable 5 سيرفض صراحةً عددًا أكبر من الطلبات، لكن المستخدمين سيفهمون سبب كل رفض ومنطقه بدلًا من الحجب الصامت. وهذا نهج أكثر منطقية وإنصافًا. فبدلًا من المرشِّحات الخفية، ينبغي للنموذج أن يوضح صراحةً: «لا أستطيع فعل ذلك لأنه ينتهك سياسة الأمان لدي في المجال X». وهذا الحوار مفيد للجميع:

• يرى المستخدمون حدود القدرات بوضوح ويفهمون منطق النموذج
• يصمّم المطورون أنظمتهم مع مراعاة القيود منذ البداية
• يحصل الباحثون على تقييم صادق للقدرات الفعلية للنموذج
• يستطيع المنافسون مقارنة Fable بالبدائل بموضوعية

الثقة والشفافية في الذكاء الاصطناعي

تتراجع الثقة بشركات الذكاء الاصطناعي حين تُخفي كيفية عمل نماذجها. فالمطورون والباحثون والجهات التنظيمية، جميعهم بحاجة إلى الشفافية بشأن ضوابط الحماية المدمجة، كي يقيّموا بشكل صحيح المخاطر والإمكانات وحدود تطبيق التقنية في مشاريعهم.

صُمّمت فئة نماذج Mythos من Anthropic مع اهتمام خاص بالأمان، ولهذا السبب بالذات يتعين على الشركة أن تتحدث بصراحة عن القيود. فإذا كانت ضوابط الحماية ضرورية لإدارة المخاطر، فيجب أن تكون جزءًا صريحًا وصادقًا من العقد بين الشركة والمستخدم. أما الآليات الخفية فتعطي انطباعًا بأن الشركة تُخفي معلومات مهمة عن المنتج.

تثير ضوابط الحماية غير المرئية سؤالًا مشروعًا: ماذا قد يكون مخفيًا

أيضًا داخل الصندوق الأسود للذكاء الاصطناعي؟

ماذا يعني ذلك

تتحول الشفافية في ضوابط الحماية إلى توقع أساسي في الصناعة. ومن المرجح أن تستخلص شركات الذكاء الاصطناعي الأخرى هذا الدرس وتكون منفتحة بشأن قيودها، مدركةً أن الإخفاء قد يلحق ضررًا بالسمعة. وبالنسبة للمستخدمين، فهذا خبر إيجابي، إذ يعني مزيدًا من الصدق بشأن ما يستطيع النموذج فعله. أما بالنسبة للصناعة، فهو إشارة إلى أن الصندوق الأسود لم يعد مقبولًا في عالم تعتمد فيه عمليات أعمال حيوية وأبحاث علمية على الذكاء الاصطناعي وتتطلب موثوقيته.