Anthropic تصف GLM-5.3 بأنه تهديد سيبراني خطير وتعيد إشعال الجدل حول النماذج المفتوحة

في أواخر سبتمبر نشرت Anthropic تقريرًا تؤكد فيه أن نموذج GLM-5.3 يشكّل خطرًا جسيمًا على الأمن السيبراني. وهذه حالة نادرة تصف فيها إحدى المختبرات الرائدة علنًا نموذجًا بعينه تابعًا لجهة أخرى بأنه تهديد. وسبب الجدل شكلي: فـ GLM-5.3 من النماذج المفتوحة، أي أن أوزانه متاحة للتنزيل. وتستخدم MIT Technology Review في زاوية Explains هذا التقرير لتناول سؤال أعم: هل تفوق فوائد النماذج المفتوحة المخاطر المرتبطة بها؟

تنبيه مهم: في الجزء المتاح من المادة تنقطع صياغة الفرضية الرئيسية للتقرير في منتصف الجملة. لذلك يتناول ما يلي منطق الجدل نفسه، وليس عرضًا سطرًا بسطر لوثيقة Anthropic.

ما الذي يميّز النموذج المفتوح عن المغلق

النموذج المغلق، مثل Claude أو GPT، يستدعيه المستخدم عبر API. ويرى المزوّد الطلبات، ويستطيع حظر السيناريوهات المشبوهة، وتحديث المرشحات، وقطع الوصول عن المخالفين. أما النموذج المفتوح فالأمر معه مختلف. فالأوزان لدى المستخدم، والتشغيل يجري على عتاده، ويمكن إعادة تدريب أي آليات حماية أو حذفها.

هنا بالضبط يقع حد الخطر. فبعد نشر الأوزان لا يمكن سحبها. وإذا تبيّن لاحقًا أن النموذج يساعد على أتمتة استطلاع الثغرات أو كتابة الاستغلالات (exploits)، فلن يكون ممكنًا إصلاح ذلك مركزيًا. ولا يبقى سوى الاعتماد على تدابير حماية خارجية.

ما الذي تقدمه النماذج المفتوحة في المقابل

حجج أنصار الانفتاح عملية، ولا يمكن اختزالها في الأيديولوجيا:

• قابلية التحقق. يستطيع باحثون مستقلون دراسة سلوك النموذج والبحث عن ثغرات فيه وإعادة إنتاج النتائج. ومع الأنظمة المغلقة هذا مستحيل.
• التحكم في البيانات. تشغّل الشركة النموذج داخل محيطها، فلا تخرج الوثائق الحساسة إلى مزوّد خارجي.
• الاقتصاد. يمكن إعادة تدريب النموذج لمهمة ضيقة وتشغيله على وحدات GPU الخاصة بالشركة، دون الارتهان لتعرفة API وحدوده.
• المنافسة. تُبقي النماذج المفتوحة الأسعار تحت الضغط، وتمنع انحصار السوق في مزوّدَين أو ثلاثة.

ويضيف المدافعون حجة أخرى: أدوات الذكاء الاصطناعي يحتاج إليها المدافعون أيضًا. ففرق الأمن تستخدم النماذج لتحليل الشيفرة والبحث عن الثغرات وفحص الحوادث. وإذا اختفت النماذج المفتوحة القوية، فسيستفيد من يملك الوصول إلى الأنظمة المغلقة والميزانية.

أين تصمد حجة التهديد وأين تضعف

منطق Anthropic مفهوم: كلما زادت قدرة النموذج في البرمجة والعمل مع الوكلاء، زادت فائدته في أتمتة الهجمات، ولا تتوافر للنسخة المفتوحة أدوات للتحكم. لكن الاعتراضات جدية أيضًا. فالمهاجمون لا يحتاجون إلى نموذج متقدم لتنفيذ معظم الهجمات: إذ إن التصيد الاحتيالي والاستغلالات النمطية تعمل منذ زمن طويل من دونه. كما أن المختبر الذي يبيع نماذج مغلقة بنفسه له مصلحة في طريقة صياغة التنظيم. وهذا لا يلغي استنتاجاته، لكنه يستوجب التحقق منها بصورة مستقلة.

يتصادم في هذا الجدل نموذجان مختلفان للأمن. الأول يعتمد على ضبط الوصول لدى المزوّد. والثاني يراهن على الشفافية والحماية الموزعة. وكل منهما يعمل جيدًا حيث يضعف الآخر.

الخلاصات العملية

على الشركات أن تختار بين النموذج المفتوح والمغلق وفق المهمة، لا وفق الأيديولوجيا. فإذا كانت المعالجة المحلية للبيانات والضبط الدقيق مطلوبين، فالنموذج المفتوح مناسب، لكن عندها سيتعين على الشركة بناء المرشحات وتسجيل الطلبات وتقييد صلاحيات الوكلاء بنفسها. أما إذا كانت قابلية الإدارة ودعم المزوّد أهم، فالأنسب API مغلق.

أما بالنسبة لفرق الأمن، فيمثل تقرير Anthropic إشارة: ينبغي إدراج نماذج بمستوى GLM-5.3 في نموذج التهديدات منذ الآن، واختبار أنظمة الحماية الخاصة بها عليها. وبالنسبة للجهات التنظيمية يبقى السؤال كما هو وبلا إجابة حتى الآن: هل يمكن الحد من المخاطر حيث يستحيل التحكم بعد النشر، وألا يضر ذلك بالباحثين والشركات التي تعتمد على الأوزان المفتوحة؟