نموذج Fable من Anthropic صارم أكثر من اللازم في مجال الأمن السيبراني

يعبّر باحثو الأمن السيبراني والمتخصصون في أمن المعلومات عن استياء شديد من نموذج Fable الجديد من Anthropic، الذي أُتيح للعموم. والمشكلة ليست في النموذج نفسه، فهو قوي وقادر بالفعل، بل في آليات الحماية المدمجة فيه. فضوابط guardrails صارمة إلى درجة أن المتخصصين أنفسهم لا يستطيعون استخدام Fable في مهام مشروعة تمامًا، مثل حماية الأنظمة وتحليلها.

قيود كثيرة على عمل لا غنى عنه

Fable جيل جديد من النماذج اللغوية القوية، بُني على أبحاث متقدمة أجرتها Anthropic. وقد زوّدته الشركة عمدًا بالكثير من القيود لمنع إساءة استخدامه المحتملة وتوظيفه في أغراض ضارة. غير أن ضوابط guardrails جاءت شديدة الصرامة والتحفظ، فهي لا تحجب الطلبات الخطيرة فحسب، بل تحجب كذلك الأبحاث المشروعة تمامًا.

ويفيد متخصصون في الأمن السيبراني من الجامعات وشركات أمن المعلومات الكبرى والأقسام المؤسسية بأنه لا يمكن حتى طلب مساعدة النموذج في مهام أساسية، مثل تحليل الثغرات في الشيفرة البرمجية، أو تطوير استراتيجيات حماية البنية التحتية، أو مناقشة أساليب الدفاع السيبراني. فأي طلب يتضمن كلمات مفتاحية مثل "exploit" أو "vulnerability" أو "attack" أو "breach" أو "malware" يُرفض تقريبًا بشكل تلقائي.

وتشمل قائمة العمليات المحظورة، رغم أنها ضرورية للعمل، ما يلي:

• البحث عن الثغرات في الأنظمة والتطبيقات
• اختبار متانة حماية الشبكات المؤسسية
• تحليل أساليب الهجمات السيبرانية المعروفة بهدف تطوير الحماية
• إنشاء أدوات ونصوص برمجية دفاعية للأمن
• تقديم الاستشارات المهنية في مجال أمن المعلومات

المعضلة الكلاسيكية: الحماية في مواجهة الفائدة

المشكلة التي تواجهها Anthropic حقيقية ومعقدة. فمن جهة، من الأهمية الحاسمة للشركات المطوّرة للنماذج اللغوية أن تحمي أنظمتها من الأشخاص الذين يستخدمونها لأغراض ضارة، كتطوير البرمجيات الخبيثة (malware) وتنظيم الهجمات على البنية التحتية وتخمين كلمات المرور والهندسة الاجتماعية. ومن جهة أخرى، يحتاج المتخصصون في الأمن السيبراني، من مدافعين عن الأنظمة وباحثي أمن واختصاصيي اختبار الاختراق، إلى الوصول إلى أدوات حديثة وقوية. فهم يستخدمون الذكاء الاصطناعي لتحليل كميات كبيرة من الشيفرة البرمجية، والبحث عن أنماط الهجمات، وتطوير استراتيجيات الحماية.

"لا يمكن حماية الأنظمة إذا لم تتوفر لديك أدوات لتحليل التهديدات الحديثة الفعلية"، بحسب ما يقوله الباحثون في نقاشات على

Twitter وفي منتديات متخصصة لمجتمع الأمن السيبراني.

وتواجه Anthropic المعضلة الكلاسيكية للنماذج المفتوحة: كيف تتيح نظامًا قويًا للباحثين الشرعيين دون أن تضعه في أيدي أصحاب النوايا الإجرامية؟ واختارت الشركة نهجًا محافظًا، فحجبت افتراضيًا كل ما يتصل بالأمن تقريبًا. وهذا آمن إلى أقصى حد من الناحية النظرية، لكنه قليل الفائدة عمليًا.

ما الحلول التي يراها الخبراء؟

يقترح بعض المتخصصين المعروفين نهجًا أكثر مرونة. فيمكن للنموذج أن يشترط تحققًا إضافيًا في المهام المتعلقة بالأمن، كالتحقق من الاعتمادات المهنية، وتوثيق الانتماء إلى مؤسسة معتمدة، وإجراء مراجعة (review) للعملية قبل الاستخدام. ويقترح آخرون إنشاء نسخة منفصلة من Fable مخصصة للمتخصصين في الأمن السيبراني، بضوابط guardrails أخف، ولكن بشروط استخدام مناسبة ومراقبة مستمرة.

ماذا يعني ذلك للقطاع

يعكس الجدل حول ضوابط guardrails في Fable مشكلة أوسع تواجه قطاع الذكاء الاصطناعي بأكمله. فعلى الشركات أن تجد توازنًا بين الحماية من إساءة الاستخدام وفائدة النماذج للاستخدام المشروع. والقيود المفرطة الصرامة تنفّر الخبراء الذين كان بوسعهم المساعدة في اكتشاف المشكلات وتحسين الأمن. وقد يدفع ذلك المتخصصين ببساطة إلى استخدام أدوات أخرى، فيتشتت منظومة الأمن بدلًا من أن تتعزز.