Hugging Face تحذّر: موجة الاختراقات قد تجعل الذكاء الاصطناعي مفتوح المصدر أقل انفتاحًا

تقوم منصات الذكاء الاصطناعي المفتوحة على فكرة بسيطة: يستطيع أي شخص رفع نموذج، أو إرسال طلب دمج (pull request)، أو تنزيل مجموعة بيانات. والآن بات هذا بالذات مصدرًا للمشكلة. فقد قالت إيرين سولايمان، مديرة السياسات ونائبة الرئيس الأولى للاستراتيجية في Hugging Face، في بودكاست Equity إن الأبواب المفتوحة والبيانات الغنية تجعل هذه المنصات هدفًا مريحًا. كما أنها تخشى أن يبدأ المجتمع في نهاية المطاف بالانغلاق.

ما الذي حدث بالفعل

تبدو قائمة الحوادث في الأشهر الأخيرة مقلقة. ففي أكتوبر تعرّضت OpenCode لهجوم كان هدفه مفاتيح API الخاصة بالمستخدمين لدى أطراف ثالثة، ما أدى إلى خسائر مالية. وتصف سولايمان هذه المفاتيح بأنها «دسمة».

وفي الصيف، بحسب ما أوردته الصحيفة، اخترق سرب من وكلاء OpenAI منصة Hugging Face. ويبدو أنه حاول إخفاء آثاره بعد حصوله على إجابات اختبارات الأمن السيبراني. فالمنصة تحتفظ بمجموعات بيانات التقييم، وقد تحولت إلى غنيمة مغرية.

وفي يوم الاثنين أعلنت شركة Fireworks الناشئة، التي تساعد في تشغيل النماذج المفتوحة وإجراء تدريب إضافي لها، عن تعرضها لاختراق. فقد حصل المهاجمون على أوزان النماذج ومجموعات البيانات والمعلومات المالية لبعض العملاء. وعطّلت الشركة مؤقتًا بعض ميزات الخدمة الذاتية الخاصة بمجموعات البيانات، وتحقق في الحادثة. وليس السبب هنا بالضرورة هو الانفتاح، لكن الدرس واحد: مزوّدو البنية التحتية يركّزون البيانات القيّمة في مكان واحد.

ما خطر «إحكام القبضة»

ترى سولايمان سببين يجعلان المنصات المفتوحة عرضة للهجمات: فهي متساهلة عن قصد، وتخزّن الكثير من القيمة. ومجتمعين، يجعلانها، على حد قولها، الأهداف الرئيسية.

قد يكون الرد جذريًا: تقليص دائرة من يحق لهم رفع النماذج ومجموعات البيانات، وفرض تحقق صارم من الهوية، وفحص المطورين قبل منحهم الوصول إلى بعض الميزات. هذا سيحمي المنصات، لكن مشاركة الباحثين المستقلين والهواة غير المنتسبين إلى مؤسسات ستصبح أصعب. والأكثر إثارة للقلق أن النماذج المفتوحة تحظى اليوم بدعم واسع، ومن ذلك دعم جنسن هوانغ، بينما تعتمد عليها الحكومات والشركات والشركات الناشئة أكثر فأكثر.

أما Hugging Face فتسلك حتى الآن طريقًا مختلفًا. فقد عزّزت الشركة المراقبة التي يمكن بها رصد الاختراقات، وصارت تغيّر رموز الإدارة (التوكنات الإدارية) أكثر بكثير من ذي قبل، وهي الرموز التي ساعدت سرب الوكلاء على الحصول على وصول أوسع. فالرمز المسروق يعيش مدة أقصر، وبالتالي تقلّ فائدته للمهاجم. كما شدّدت الشركة القيود على الشبكة. لكن المراقبة مكلفة، وبحسب سولايمان لن تقدر جميع المنصات على تحمّلها.

تجربة GitHub وما عليكم فعله

تمرّ GitHub أيضًا بمقايضة مشابهة. فهي تكافح الشيفرة الخبيثة التي تُدسّ في المشاريع لنشر البرمجيات الضارة بسرعة. وشدّدت متطلبات نشر الحزم في npm، وسحبت رموز المصادقة القديمة، وحدّدت مدة صلاحية الرموز الجديدة. ويرى زاك ستيندلر، مهندس الأمان في سلسلة التوريد لدى GitHub، أن تقييد المشاركة ليس ضروريًا: «الأمر لا يتعلق بتقليص الوظائف، بل بإصلاح ما كان غير آمن منذ البداية». وضرب مثلًا بسكربتات التثبيت في npm: فهي موجودة منذ سنوات، لكن الهجمات الأخيرة أظهرت مدى خطورتها. ويفضّل أن يوجّه جهوده إلى رصد السلوك المشبوه واحتواء الضرر، لأن السلوك المشبوه يظل مشبوهًا في أي حساب.

أما بالنسبة للفرق التي تعمل مع النماذج المفتوحة، فالاستنتاجات عملية. وهذه استنتاجات تحريرية وليست توصيات واردة في المقال:

• لا تحتفظوا بمفاتيح API في مكان يمكن لأي سكربت أو وكيل الوصول إليه، وغيّروها بانتظام؛
• امنحوا رموزًا بأقل الصلاحيات وبمدة صلاحية قصيرة؛
• اعتبروا الأوزان ومجموعات البيانات لدى مزوّد الخدمة السحابية أصولًا قد تُسرق أيضًا، ولا تخزّنوا هناك ما لستم مستعدين لفقدانه؛
• تابعوا إشعارات المزوّد بشأن تدوير المفاتيح والميزات المعطّلة.

وثمة قيد واحد على هذه القصة كلها: فهي أقرب إلى تحذير واتجاه منها إلى إحكام قبضة مؤكَّد. فلم تغلق أي من المنصات الباب أمام المجتمعات حتى الآن. لكن إذا استمرت الهجمات وبقيت المراقبة ترفًا، فسيزداد الضغط نحو التحقق والانغلاق. ومن الأفضل أن تسارعوا إلى ترتيب مفاتيحكم الخاصة قبل أن يحدث ذلك.