نموذج Fable من Anthropic مقيّد جداً لأمن الإنترنت

يعبّر باحثو الأمن السيبراني والمتخصصون في أمن المعلومات عن استياء شديد من نموذج Fable الجديد من Anthropic، الذي تم إطلاقه في الوصول المفتوح. المشكلة ليست في النموذج نفسه — فهو قوي وقادر فعلاً — بل في آليات الأمان الخاصة به. إن guardrails صارمة جداً بحيث حتى المحترفين لا يمكنهم استخدام Fable للمهام المشروعة تماماً لحماية الأنظمة وتحليلها.

قيود كثيرة جداً للعمل الضروري

Fable هي جيل جديد من نموذج اللغة القوي تم إنشاؤه بناءً على البحث المتقدم لـ Anthropic. أدرجت الشركة عن قصد قيود عديدة لمنع الإساءة المحتملة والاستخدام الضار. ومع ذلك، تبين أن guardrails صارمة وتحفظية جداً بحيث تحجب ليس فقط الطلبات الخطرة بل أيضاً البحث المشروع تماماً.

يُبلّغ متخصصو الأمن السيبراني من الجامعات وشركات أمن المعلومات الكبرى والأقسام الأمنية للشركات أنه من المستحيل طلب مساعدة النموذج حتى للمهام الأساسية: تحليل الثغرات الأمنية في الكود، وتطوير استراتيجيات حماية البنية التحتية، ومناقشة أساليب الأمن السيبراني. تقريباً أي طلب يحتوي على كلمات رئيسية مثل "exploit" أو "vulnerability" أو "attack" أو "breach" أو "malware" يتم رفضه تلقائياً.

تتضمن قائمة العمليات المحظورة الضرورية للعمل ما يلي:

• التحقيق في الثغرات الأمنية في الأنظمة والتطبيقات
• اختبار مرونة حماية شبكات الشركات
• تحليل طرق الهجمات السيبرانية المعروفة لتطوير الدفاعات
• تطوير أدوات الأمان الدفاعية والبرامج النصية
• الاستشارات المهنية في أمن المعلومات

المعضلة الكلاسيكية: الأمان مقابل الفائدة

المشكلة التي يواجهها Anthropic حقيقية ومعقدة. من ناحية، تحتاج الشركات التي تطور نماذج اللغة إلى حماية أنظمتها من الأشخاص الذين يستخدمونها لأغراض ضارة — تطوير البرامج الضارة، تنظيم الهجمات على البنية التحتية، كسر كلمات المرور والهندسة الاجتماعية. من ناحية أخرى، يجب أن يتمتع متخصصو الأمن السيبراني — المدافعون عن الأنظمة، باحثو الأمان، ومختبرو الاختراق — بالوصول إلى أدوات حديثة قوية. يستخدمون الذكاء الاصطناعي لتحليل كميات كبيرة من الأكواد، تحديد أنماط الهجوم، وتطوير استراتيجيات الحماية.

"من المستحيل حماية الأنظمة إذا لم يكن لديك وصول إلى أدوات لتحليل التهديدات الحديثة الحقيقية"، يقول الباحثون في المناقشات على

Twitter والمنتديات المتخصصة لمجتمع الأمن السيبراني.

واجهت Anthropic المعضلة الكلاسيكية للنماذج المفتوحة: كيفية فتح نظام قوي للباحثين المشروعين دون وضعه في أيدي الأشخاص الذين لديهم نوايا إجرامية؟ اختارت الشركة نهجاً محافظاً — بحجب جميع ما يتعلق بالأمان بشكل افتراضي. هذا آمن إلى أقصى حد من الناحية النظرية لكنه مفيد بشكل ضئيل من الناحية العملية.

ما هي الحلول التي يقترحها الخبراء

يقترح بعض المتخصصين المعروفين نهجاً أكثر مرونة. يمكن للنموذج أن يتطلب تحقق إضافي للمهام الأمنية — التحقق من بيانات الاعتماد المهنية، توثيق الانتساب إلى منظمة معتمدة، إجراء عملية المراجعة قبل الاستخدام. يقترح آخرون إنشاء نسخة منفصلة من Fable لمتخصصي الأمن السيبراني مع guardrails أكثر ليونة، لكن مع شروط استخدام مناسبة والمراقبة المستمرة.

ما يعنيه هذا بالنسبة للصناعة

ينعكس النقاش حول guardrails الخاص بـ Fable مشكلة أوسع في صناعة الذكاء الاصطناعي بأكملها. تحتاج الشركات إلى إيجاد توازن بين الحماية من الإساءة والفائدة المفيدة للنماذج للتطبيقات المشروعة. القيود الصارمة جداً تثني الخبراء الذين يمكنهم المساعدة في تحديد المشاكل وتحسين الأمان. قد يؤدي هذا إلى أن يستخدم المحترفون ببساطة أدوات أخرى، مما يؤدي إلى فقدان التركيز على نظام الأمان بدلاً من تقويته.