Anthropic تحقق في إمكانية الوصول غير المصرح به لنموذج Mythos المغلق

تحقق شركة Anthropic في تقارير تفيد بأن مجموعة صغيرة من المستخدمين الخارجيين قد تكون حصلت على الوصول إلى Mythos — نموذج الشركة الخاص الذي لم يتم إصداره علناً بسبب مخاطر الاستخدام في الهجمات الإلكترونية. إذا تم تأكيد ذلك، فإن هذا سيمثل ليس مجرد خلل داخلي، بل انتهاكاً محتملاً لأحد أكثر المحيطات الأمنية حساسية في صناعة الذكاء الاصطناعي: السيطرة على الأنظمة القادرة على تسريع اكتشاف الثغرات الأمنية ومساعدة المهاجمين. تم تحفيز التحقيق من خلال نشر من قبل بلومبرج، وبعده أكدت Anthropic رسمياً أنها تفحص ظروف الحادثة.

وفقاً للمعلومات المتاحة، قد يكون قد حصل عليها عدد قليل من الأشخاص فقط، لكن حتى هذا الحجم يبدو خطيراً لأن Mythos نفسه لم يتم فتحه بعد لجمهور واسع. كانت الشركة قد حذرت في السابق من أن قدرات هذا النموذج تشكل مخاطر على الأمن السيبراني، ولهذا السبب أبقته خارج الإصدار العام ولم تقدمه للمستخدمين العاديين. يُعتبر Mythos مهماً بالضبط كمثال على نموذج الاستخدام المزدوج.

يمكن لأنظمة هذه الفئة تحليل الأكواد والخدمات وعمارة التطبيقات ومتجهات الهجوم المعروفة بشكل أعمق بكثير من المحادثات الآلية العامة. في أيدي فرق الأمان، هذا مفيد: البحث عن نقاط الضعف بسرعة أكبر، وتقييم التكوينات، واختبار الفرضيات، وتقليل وقت التدقيق. لكن نفس القدرات يمكن أن تعمل لصالح الجانب المهاجم — مساعدة في الاستطلاع، وتسريع اكتشاف سلاسل الاستغلال، وتقليل حاجز الدخول للمهاجمين الأقل مؤهلاً.

لهذا السبب، يحاول مطورو النماذج المتقدمة بناء قيود متعددة المراحل: دائرة محدودة من المختبرين، وقواعد الوصول الداخلي، وتسجيل الإجراءات، والبيئات التجريبية المنفصلة، والفحوصات الإضافية قبل توسيع الوصول. حقيقة أن النموذج لم يتم إصداره علناً عادة تعني أن الشركة تعتقد أن تدابير الحماية القياسية غير كافية وتفضل نمط تشغيل أكثر صرامة. لذلك، فإن قصة الوصول غير المصرح به المحتمل تضرب منطق هذا النهج نفسه: إذا تم الاعتراف بأن الأداة خطرة محتملاً، فيجب أن يكون محيطها الداخلي موثوقاً بشكل خاص.

بالنسبة لـ Anthropic، هذه الحادثة حساسة أيضاً لأسباب سمعة. حاولت الشركة منذ فترة طويلة تأسيس نفسها في دور لاعب حذر يراهن على الأمان والتحكم في المخاطر والنشر المرحلي للنماذج القوية. في ظل سباق مطوري الذكاء الاصطناعي العام، أصبحت مثل هذه البيانات جزءاً مهماً من المنافسة: يحتاج المستخدمون والعملاء المؤسسيون والمنظمون إلى فهم ليس فقط جودة النموذج، بل أيضاً كيفية إدارته بمسؤولية.

عندما يظهر نظام مغلق، محتفظ به بشكل متعمد خارج الوصول العام، في تقارير الاستخدام الخارجي، ما يتم التشكيك فيه ليس فقط التكنولوجيا نفسها، بل الجدوى العملية للآليات الحماية حولها. حتى الآن، لم تكشف Anthropic بالضبط كيف تم الحصول على الوصول أو ما هي العواقب التي أدت إليها. من غير الواضح ما إذا كان هذا يتضمن استخداماً كاملاً لقدرات Mythos، أو واجهة اختبار، أو تفاعل أكثر محدودية مع النموذج.

كما لا توجد بيانات مؤكدة حول ما إذا تمكن المستخدمون الخارجيون من تطبيق هذه القدرات عملياً. لكن حتى بدون هذه التفاصيل، تُظهر الحادثة مدى تعقيد الأمان في عصر الأنظمة المتخصصة للذكاء الاصطناعي: المخاطر مرتبطة ليس فقط بنشر النموذج، بل أيضاً بمدى استدامة التحكم به من قبل الشركة داخل عملياتها الخاصة. إذا أكد التحقيق انتهاك الأمان، فسيصبح هذا حجة أخرى لصالح إجراءات أكثر صرامة لنماذج الاستخدام المزدوج: تجزئة الوصول، والتدقيق المستقل، والمراقبة المستمرة للاستخدام، والفصل الأكثر صرامة بين بيئات البحث والإنتاج.

بالنسبة لكامل السوق، الإشارة واضحة: الخطر لا يبدأ في لحظة الإصدار الجماعي، بل في وقت أبكر كثيراً — حيث يتوقف النظام المغلق عن كونه مغلقاً حقاً.