Anthropic تعتذر عن القيود الخفية في Claude Fable 5

أقرّت Anthropic، الشركة المطوّرة لعائلة نماذج Claude اللغوية، علنًا بأن نموذج Claude Fable 5 كان يعمل بقيود خفية لم يُبلَّغ بها المستخدمون. ووفق ما نقله موقع 3DNews، عقّدت هذه الحواجز عمل الباحثين المستقلين، وأعاقت في الوقت نفسه الشركات المنافسة التي تطوّر أنظمة ذكاء اصطناعي خاصة بها وتقارن سلوكها بسلوك Fable. واعتذرت Anthropic، وأعلنت عزمها تغيير نهجها في التعامل مع القيود وجعلها شفافة بالكامل، حتى لو جعل ذلك النموذج يرفض جزءًا من طلبات المستخدمين بوتيرة أعلى.

ما الذي كان وراء الحواجز الخفية

لم تكشف Anthropic عن قائمة شاملة بالسيناريوهات التي كانت تحجبها مرشّحات Fable 5 غير الموثّقة. وبحسب صياغة الاعتذار، لا يتعلق الأمر بقيد واحد محدد، بل بمجموعة منهجية من الحواجز لم تنعكس في الوثائق المفتوحة للنموذج ولا في بطاقات النظام (system cards)، وهي المواد التي تنشرها Anthropic عادةً عند إصدار نسخ جديدة من Claude مع وصف لسياسة الاستخدام المقبول. وكان غياب هذه المعلومات من المتاح للعموم أبرز مآخذ الجميع على الشركة: فلم يكن بوسع المستخدمين والشركاء أن يعرفوا مسبقًا أين يقع حدّ السلوك المسموح به للنموذج، فكانوا يواجهون حالات رفض لا تفسير رسميًا لها. ويتناقض هذا الوضع مباشرةً مع السمعة التي بنتها Anthropic على مدى سنوات عبر نشر تقارير مفصّلة عن سلامة كل نموذج جديد وحدوده.

من تضرر من القيود غير الموثّقة؟

تضرب الحواجز الخفية مجموعتين في آن واحد. الأولى هي الباحثون المستقلون الذين يعملون في الاختبار الهجومي (red-teaming) وتقييم سلامة النماذج اللغوية الكبيرة: فمن دون معرفة أي القيود مدمجة عن قصد وأيها أثر جانبي للتدريب، يصبح استنساخ سلوك النموذج وتفسيره أصعب بكثير، وتفقد نتائج الأبحاث قيمتها العلمية لاستحالة إعادة التجربة. أما المجموعة الثانية فهي الشركات المنافسة والمطوّرون الذين يتخذون Fable مرجعًا عند بناء أنظمتهم الخاصة أو يقارنون قدراته بنماذجهم في اختبارات الأداء المعيارية (benchmarks). فالمرشّحات غير الموثّقة تشوّه هذه المقارنات: إذ قد تُنفَّذ المهمة نفسها بالصياغة نفسها أو تُرفض تبعًا لقواعد غير مرئية، ما يجعل نتائج الاختبارات غير قابلة للاستنساخ ويقوّض الثقة بممارسة الاختبار المقارن للنماذج اللغوية في القطاع ككل.

• النموذج: Claude Fable 5، من تطوير Anthropic
• المأخذ: قيود غير موثّقة (خفية) على تنفيذ الطلبات
• الأطراف المتضررة: الباحثون المستقلون والشركات المنافسة
• ردّ الشركة: اعتذار علني ووعد بالتحول إلى سياسة قيود شفافة
• المقايضة: قد يبدأ النموذج برفض الطلبات بوتيرة أعلى، لكن بشكل علني ومصحوب بتفسير

ما الذي تعد Anthropic بتغييره

أعلنت الشركة أنها تنتقل إلى نهج شفاف في التعامل مع قيود Fable: فكل حاجز مدمج في النموذج عن قصد يجب توثيقه وشرحه، بدلًا من إخفائه خلف صياغات عامة عن رفض تنفيذ الطلب. ويتسق هذا القرار مع المنطق العام الذي تلتزم به Anthropic علنًا منذ تأسيسها، إذ تصدر بانتظام بطاقات نظام للنماذج ووصفًا لسياسة الاستخدام، سعيًا إلى تقديم نفسها لاعبًا أكثر انفتاحًا في السوق مقارنةً بمنافسيها. ويمكن النظر إلى إقرارها بالخطأ في حالة Fable 5 بوصفه محاولة لاستعادة الثقة بعد أن قوّضت القيود الخفية فعليًا مبدأ الشفافية الذي أعلنته.

أما من يبنون منتجات فوق Claude API أو يستخدمون Fable لأغراض بحثية، فتعني الشفافية الموعودة سلوكًا أكثر قابلية للتنبؤ من النموذج: إذ سيتمكن المطوّرون من إدراج القيود المعروفة مسبقًا في بنية منتجاتهم، بدلًا من اكتشافها لاحقًا عبر سلسلة من حالات الرفض المفاجئة. وفي الوقت نفسه تقرّ الشركة صراحةً بأن زيادة الشفافية قد يصاحبها ارتفاع في عدد حالات الرفض، إذ سيقول النموذج «لا» علنًا في مرات أكثر، بدلًا من الالتفاف على الطلب خفيةً عبر مرشّحات غير مرئية. وبالنسبة إلى السوق عمومًا، تذكّر هذه الواقعة بأن حتى الشركات التي تبني سمعتها على السلامة والانفتاح في الذكاء الاصطناعي ليست بمنأى عن قرارات داخلية تتعارض مع تصريحاتها العلنية، وبأن ثقة المجتمع البحثي لا بد من إثباتها من جديد بعد كل حادثة من هذا النوع.

وتكتسب قصة Fable 5 دلالتها كذلك لأنها تتكشف في خضم تزايد الاهتمام بكيفية شرح مختبرات الذكاء الاصطناعي الكبرى لسياسات السلامة الخاصة بها للجهات التنظيمية والمستثمرين والمطوّرين الشركاء. وكلما زاد عدد الشركات في القطاع التي تعلن التزامها بالانفتاح، ارتفعت كلفة الفجوة بين القول والممارسة، وزاد تدقيق المجتمع في ما إذا كانت Anthropic ستفي فعلًا بوعدها بتوثيق جميع قيود الإصدارات المقبلة من Claude، لا قيود Fable وحدها.