OpenAI وHugging Face تكشفان عن حادثة أمنية خلال تقييم نموذج ذكاء اصطناعي

نشرت OpenAI وHugging Face تقريراً مشتركاً عن حادثة أمنية وقعت خلال تقييم دوري لأحد نماذج الذكاء الاصطناعي. فقد كشف الاختبار عن قدرات سيبرانية متقدمة، وقررت المؤسستان مشاركة النتائج الأولية مع المدافعين.

ما الذي حدث أثناء التقييم

وقعت الحادثة ضمن الدورة المعتادة لتقييم النماذج (model evaluation)، وهي المرحلة التي تختبر فيها مختبرات الذكاء الاصطناعي قدرات النموذج قبل إطلاقه للعموم. ووفقاً لما ذكرته OpenAI وHugging Face، رصد الاختبار سلوكاً صنّفته الشركتان على أنه «قدرات سيبرانية متقدمة» (advanced cyber capabilities).

ومن اللافت أن المؤسستين لم تتكتما على الحادثة. فقد تعاونتا بدلاً من ذلك لتوثيق التفاصيل التقنية ووضع توصيات للمعنيين بحماية الأنظمة. ويُعد المنشور على المدونة الرسمية لـ OpenAI من أوائل الأمثلة التي تكشف فيها شركتان كبيرتان في مجال الذكاء الاصطناعي، بصورة مشتركة، عن بيانات حادثة أمنية قبل الإطلاق الواسع للنموذج.

ماذا تعني «القدرات السيبرانية المتقدمة»

في سياق تقييم الذكاء الاصطناعي، يشير مصطلح advanced cyber capabilities إلى أن النموذج أظهر مهارات يمكن توظيفها في عمليات هجومية في الفضاء السيبراني، مثل اكتشاف الثغرات، أو تجاوز آليات الحماية، أو تنفيذ هجمات متعددة المراحل دون تعليمات صريحة من الخارج.

ويُقدَّم التقرير بوصفه «نتائج أولية» (early findings)، أي أن الدراسة الكاملة لا تزال جارية. ومع ذلك، رأت الشركتان أن الإفصاح عن النتائج المرحلية كافٍ من أجل:

• تنبيه المتخصصين في الأمن إلى فئة جديدة من المخاطر
• نقل الدروس المستفادة إلى المدافعين (defenders)، أي الفرق التي تحمي البنية التحتية
• إرساء سابقة للإفصاح المسؤول عن البيانات عند اختبار الذكاء الاصطناعي

«نأمل، من خلال مشاركة هذه النتائج الأولية، أن نساعد المدافعين على فهم التهديدات ومعالجتها»، بحسب ما ورد في المدونة الرسمية لـ

OpenAI.

لماذا يهم ذلك القطاع

تمثل الشراكة بين OpenAI وHugging Face حول حادثة أمنية إشارة مهمة. فـ Hugging Face هي أكبر منصة مفتوحة لنماذج الذكاء الاصطناعي، وتستضيف مئات الآلاف من النماذج المتاحة للتنزيل وإجراء fine-tuning. ويعني هذا المنشور المشترك أن معايير تقييم الأمان قد تمتد إلى ما وراء المختبرات المغلقة.

وبحسب تقرير الشركتين، تؤكد القدرات السيبرانية المرصودة الحاجة إلى تقييمات red-team منظمة قبل نشر أي نموذج قوي. وهذا النهج مدرج أصلاً في التعهدات الطوعية التي وقّعتها كبرى شركات الذكاء الاصطناعي مع البيت الأبيض في عام 2023، وتشكّل هذه الحادثة حجة عملية لصالح مثل هذه الفحوصات.

ماذا يعني ذلك

يؤكد كشف OpenAI وHugging Face عن الحادثة أن تقييم أمان نماذج الذكاء الاصطناعي ليس إجراءً شكلياً، بل مرشّح حقيقي قادر على كشف قدرات غير متوقعة قبل أن تصل إلى أيدي جمهور واسع. وبالنسبة إلى متخصصي الأمن السيبراني، فهذه إشارة واضحة إلى ضرورة الاستعداد لسيناريوهات يصبح فيها نموذج الذكاء الاصطناعي نفسه جزءاً من التهديد.

الأسئلة الشائعة

ما المقصود بـ model evaluation في سياق الأمان؟

هي عملية منظمة لاختبار نموذج الذكاء الاصطناعي قبل إطلاقه للعموم، يتحقق خلالها المتخصصون من المهام التي يستطيع تنفيذها، بما فيها المهام التي قد تكون خطرة. وقد وقعت حادثة OpenAI وHugging Face في هذه المرحلة تحديداً.

أين يمكن العثور على التقرير الكامل عن الحادثة؟

نشرت OpenAI النتائج الأولية على مدونتها الرسمية؛ وتؤكد الشركتان أن التحقيق لا يزال مستمراً، وأن بيانات أكثر اكتمالاً ستُنشر لاحقاً.