OpenAI تعلّق تطوير نموذج Astra بسبب مخاوف تتعلق بالأمن السيبراني

جمّدت OpenAI جزءًا من تطوير نموذجها المقبل Astra، مشيرة إلى مخاوف تتعلق بالأمن السيبراني. ولم توضّح الشركة أي الجوانب علّقت العمل عليها ولا المدة المتوقعة لذلك.

ما الذي علّقته OpenAI

أعلنت OpenAI إبطاءً مؤقتًا للعمل على عدد من مكوّنات Astra، بعدما كشف تقييم داخلي مخاطر محتملة مرتبطة بقدرات النموذج في مجال الأمن السيبراني. ويتعلق الأمر بتجميد جزئي للمشروع وليس تجميدًا كاملًا.

• تطوير Astra أُبطئ لكنه لم يتوقف بالكامل
• السبب هو المخاوف من قدرات النموذج في مجال الأمن السيبراني
• لم تكشف OpenAI عن الوظائف المحددة التي شملتها القيود
• لا توجد مواعيد معلنة لاستئناف التطوير الكامل

وليست هذه المرة الأولى التي تقرر فيها OpenAI كبح التطوير لاعتبارات تتعلق بالسلامة. فقد سبق أن أجّلت الشركة طرح بعض قدرات نماذجها حين كشفت الفحوص الداخلية سلوكًا غير مرغوب فيه قبل الإطلاق العلني.

لماذا يُعدّ الأمن السيبراني فئة خطر خاصة

يُعدّ الأمن السيبراني من أكثر مجالات استخدام النماذج اللغوية القوية حساسية. فمن الناحية النظرية، يمكن للنموذج المتقدم أن يخفض بدرجة كبيرة الحاجز التقني أمام تنفيذ الهجمات السيبرانية، وهذا ما يقلق باحثي الأمن.

وفي وثائقها العلنية حول تقييم «القدرات الخطرة» (Dangerous Capability Evaluations)، تصنّف OpenAI الأمن السيبراني ضمن فئات الخطر الحرجة، إلى جانب الأسلحة البيولوجية والنووية. ووفق هذا النهج، لا ينبغي طرح النماذج التي قد ترفع فاعلية الهجمات السيبرانية رفعًا نوعيًا للاستخدام المفتوح دون إجراءات تقييدية إضافية.

أما نطاق التهديدات المحدد الذي يقلق الباحثين فيشمل:

• التوليد الآلي لشيفرات خبيثة تعمل فعليًا
• اكتشاف ثغرات اليوم الصفري في البرمجيات واسعة الاستخدام
• إنشاء رسائل تصيّد احتيالي شديدة الإقناع
• التخطيط لهجمات على البنية التحتية الحيوية

كيف يعمل تقييم السلامة قبل الإطلاق

قبل كل إصدار كبير، تجري مختبرات مثل OpenAI وAnthropic وGoogle DeepMind ما يُعرف باختبار red-team، إذ يحاول مختصون عمدًا استخدام النموذج لأغراض تخريبية. والهدف هو رصد المخاطر قبل أن يواجهها المستخدمون الفعليون.

وفي سياق هذه الفحوص تحديدًا رُصدت في Astra قدرات تثير القلق. وكما يتضح من بيان OpenAI، قررت الشركة تعليق الجوانب المعنية من التطوير بدلًا من طرحها مع بقاء مخاطرها غير محسومة.

وقد وقعت حالات مماثلة في القطاع: فقد أُجّلت قدرات مختلفة في نماذج رائدة أو قُيّدت بعد رصد سلوك غير مرغوب فيه خلال الاختبارات الداخلية، وذلك قبل وقت طويل من إعلان هذه القرارات.

ماذا يعني ذلك

يُعدّ إعلان OpenAI العلني إبطاء العمل على Astra لاعتبارات السلامة إشارة إلى نضج في إدارة المخاطر. فقد فضّلت الشركة الإفصاح صراحةً عن القيود بدلًا من إخفائها أو طرح وظائف مثيرة للجدل دون فحص كافٍ. وبالنسبة إلى المستخدمين المنتظرين Astra، يعني ذلك على الأرجح تأخّر الإصدار، لكنه يعني في الوقت نفسه ثقة أعلى بسلامة المنتج النهائي.