تعتذر Anthropic عن القيود المخفية في Claude Fable 5

اعترفت Anthropic، الشركة التي طورت عائلة نماذج Claude للغة، علناً بأن نموذج Claude Fable 5 كان يعمل تحت قيود مخفية لم يتم تحذير المستخدمين منها. كما أفادت 3DNews، هذه الحواجز عقدت العمل للباحثين المستقلين وفي الوقت نفسه عرقلت الشركات المنافسة التي تطور أنظمة ذكاء اصطناعي خاصة بها وتقارن سلوكها مع Fable. اعتذرت Anthropic وأفادت بأنها تنوي تغيير نهجها تجاه القيود، مما يجعلها شفافة تماماً — حتى لو أدى ذلك إلى رفض النموذج بشكل أكثر تكراراً لبعض طلبات المستخدمين.

ما الذي كان وراء الحواجز المخفية

لم تكشف Anthropic عن قائمة شاملة للسيناريوهات التي تم حظرها بواسطة مرشحات Fable 5 غير المُوثقة. بناءً على صياغة الاعتذار، لا يتعلق الأمر بتقييد نقطة واحدة بل مجموعة منهجية من الحواجز التي لم تنعكس في التوثيق المفتوح للنموذج وفي بطاقات النظام — المواد التي عادة ما تنشرها Anthropic عند إطلاق إصدارات جديدة من Claude مع وصف لسياسة الاستخدام المقبولة. غياب هذه المعلومات من المجال العام أصبح الشكوى الرئيسية ضد الشركة: لم يتمكن المستخدمون والشركاء من فهم مسبقاً حيث يمر حد السلوك المقبول للنموذج، واجهوا رفضات لم تكن هناك تفسيرات رسمية لها. ناقضت هذه الحالة مباشرة السمعة التي بنتها Anthropic على مدار السنين من خلال نشر تقارير الأمان المفصلة والوصف الدقيق للقيود لكل إصدار جديد من Claude.

من عانى من القيود غير المُوثقة؟

ألحقت الحواجز المخفية الضرر بمجموعتين على الفور. الأولى — الباحثون المستقلون المشاركون في اختبار الفريق الأحمر وتقييم سلامة نماذج اللغة الكبيرة: بدون فهم القيود المدمجة بقصد وأيها تأثيرات جانبية للتدريب، يصبح إعادة إنتاج وشرح سلوك النموذج أكثر صعوبة بشكل كبير، وتفقد نتائج البحث قيمتها العلمية بسبب عدم القدرة على تكرار التجربة. المجموعة الثانية — الشركات المنافسة والمطورون الذين يستخدمون Fable كمرجع عند بناء أنظمتهم الخاصة أو مقارنة قدراتها مع نماذجهم في المعايير. تشوه المرشحات غير المُوثقة هذه المقارنات: نفس المهمة المصاغة بشكل متطابق قد يتم تنفيذها أو رفضها حسب القواعد غير المرئية، مما يجعل نتائج الاختبارات غير قابلة للتكرار ويقوض الثقة في ممارسة الاختبارات المقارنة لنماذج اللغة في الصناعة برمتها.

• النموذج — Claude Fable 5، تطوير Anthropic
• الشكوى — قيود (مخفية) غير موثقة على تنفيذ الطلب
• الأطراف المتأثرة — الباحثون المستقلون والشركات المنافسة
• رد فعل الشركة — اعتذارات علنية والتزام بتبني سياسة قيود شفافة
• المقايضة — قد يبدأ النموذج في رفض الطلبات بشكل أكثر تكراراً، لكن بشكل علني مع شرح

ما الذي وعدت Anthropic بتغييره

أعلنت الشركة بأنها تنتقل إلى نهج شفاف تجاه قيود Fable: يجب توثيق أي حاجز مبني عن قصد في النموذج وشرحه، وليس إخفاؤه خلف بيانات رفض عامة. يتوافق هذا القرار مع المنطق العام الذي التزمت به Anthropic علناً منذ تأسيسها — تنشر الشركة بانتظام بطاقات النظام للنماذج ووصف سياسات الاستخدام، وتسعى لتحديد نفسها كعب ذي انفتاح أكثر في السوق مقارنة بالمنافسين. يمكن اعتبار الاعتراف بالخطأ مع Fable 5 محاولة لاستعادة الثقة بعد أن القيود المخفية قوضت فعلاً مبدأ الشفافية المعلن.

بالنسبة لأولئك الذين يبنون المنتجات على Claude API أو يستخدمون Fable لأغراض البحث، تعني الشفافية الموعودة سلوكاً للنموذج أكثر قابلية للتنبؤ: سيتمكن المطورون من حساب القيود المعروفة في هندسة منتجاتهم مسبقاً بدلاً من اكتشافها بأثر رجعي من خلال سلسلة من الرفضات غير المتوقعة. في الوقت نفسه، تعترف الشركة مباشرة: قد تصاحب الشفافية المتزايدة زيادة في عدد الرفضات — سيقول النموذج بشكل أكثر تكراراً "لا" علناً بدلاً من تجنب الطلب سراً من خلال مرشحات غير مرئية. بالنسبة للسوق ككل، يعتبر هذا الحدث تذكراً بأن حتى الشركات التي تبني سمعتها على سلامة الذكاء الاصطناعي والانفتاح ليست محصنة من القرارات الداخلية التي تناقض إعلاناتها العلنية، وأن ثقة مجتمع البحث يجب أن تؤكد من جديد بعد كل حادثة من هذا القبيل.

تعتبر قصة Fable 5 توضيحية أيضاً لأنها تحدث في سياق اهتمام عام متزايد بكيفية شرح المختبرات الكبرى للذكاء الاصطناعي سياساتها الأمنية الخاصة للمنظمين والمستثمرين وشركاء المطورين. كلما زاد عدد الشركات في الصناعة الإعلان عن التزام الانفتاح، كلما زادت تكلفة التناقض بين الكلمات والممارسة الفعلية — وسيراقب المجتمع بعناية أكثر ما إذا كانت Anthropic ستفي بوعدها بتوثيق جميع القيود في إصدارات Claude المستقبلية وليس فقط Fable.