OpenAI приостановила разработку модели Astra из-за угроз кибербезопасности

أوقفت OpenAI جزءاً من تطوير نموذجها القادم Astra، مستشهدةً بمخاوف تتعلق بالأمن السيبراني. ولم تُحدِّد الشركة الجوانب التي جرى تعليقها ولا المدة الزمنية لذلك.

ما الذي علَّقته OpenAI

أعلنت OpenAI عن تباطؤ مؤقت في العمل على عدد من مكونات Astra، بعد أن كشف تقييم داخلي عن مخاطر محتملة مرتبطة بقدرات النموذج في مجال الأمن السيبراني. والأمر يتعلق بتجميد جزئي للمشروع لا بإيقافه كلياً.

• جرى تباطؤ تطوير Astra، لكنه لم يُوقَف بالكامل
• السبب هو مخاوف تتعلق بقدرات النموذج في الأمن السيبراني
• لم تُفصح OpenAI عن الوظائف المحددة التي خضعت للقيود
• لا توجد جداول زمنية معلنة لاستئناف التطوير على النطاق الكامل

ليست هذه المرة الأولى التي تقرر فيها OpenAI إبطاء التطوير لاعتبارات تتعلق بالسلامة. فقد أخَّرت الشركة في وقت سابق إصدار بعض قدرات نماذجها حين اكتشفت المراجعات الداخلية سلوكيات غير مرغوب فيها قبيل الإصدار العام.

لماذا يُعدّ الأمن السيبراني فئة مخاطر خاصة

يُعدّ الأمن السيبراني من أكثر مجالات تطبيق نماذج اللغة القوية حساسيةً. إذ يمكن لنموذج متقدم، من الناحية النظرية، أن يُخفِّض بشكل ملحوظ الحاجز التقني أمام تنفيذ الهجمات الإلكترونية — وهذا بالتحديد ما يُقلق الباحثين في مجال الأمن.

في وثائقها العامة المتعلقة بتقييمات القدرات الخطرة (Dangerous Capability Evaluations)، تُصنِّف OpenAI الأمن السيبراني ضمن فئة المخاطر الحرجة — جنباً إلى جنب مع الأسلحة البيولوجية والنووية. ووفقاً لهذا النهج، لا ينبغي إتاحة النماذج التي يمكنها تعزيز فعالية الهجمات الإلكترونية بصورة ملموسة دون اتخاذ تدابير حماية إضافية.

نطاق التهديدات المحددة الذي يُقلق الباحثين:

• التوليد الآلي لشفرات برمجية خبيثة قابلة للتنفيذ
• اكتشاف ثغرات اليوم الصفري في البرمجيات الشائعة الاستخدام
• إنشاء رسائل تصيد احتيالي بالغة الإقناع
• التخطيط لهجمات على البنية التحتية الحيوية

كيف تعمل تقييمات الأمان قبل الإصدار

قبيل كل إصدار رئيسي، تُجري مختبرات مثل OpenAI وAnthropic وGoogle DeepMind ما يُعرف بـ red-team testing: إذ يحاول متخصصون عمداً توظيف النموذج لأغراض تدميرية، بهدف رصد المخاطر قبل أن يواجهها المستخدمون الفعليون.

وقد جرى اكتشاف القدرات المثيرة للقلق في Astra تحديداً خلال هذه التقييمات. واستناداً إلى بيان OpenAI، فضَّلت الشركة تعليق الجوانب ذات الصلة من التطوير بدلاً من إصدارها مع مخاطر لم تُحسم بعد.

وقد سبق أن وقعت حوادث مماثلة في القطاع: إذ تأخَّر إصدار قدرات متعددة لنماذج رائدة أو جرى تقييدها بعد رصد سلوكيات غير مرغوب فيها خلال الاختبارات الداخلية — قبل وقت طويل من الإعلان عن هذه القرارات علنياً.

ما الذي يعنيه ذلك

يُمثِّل الإعلان العلني لـ OpenAI عن تباطؤ العمل على Astra لاعتبارات السلامة إشارةً إلى نضج إدارة المخاطر. فقد آثرت الشركة الإفصاح العلني عن القيود بدلاً من إخفائها أو إصدار وظائف مثيرة للجدل دون مراجعة كافية. وبالنسبة للمستخدمين الذين ينتظرون Astra، فإن ذلك يعني على الأرجح تأخراً في الإصدار — غير أنه يعني في الوقت ذاته مستوى أعلى من الثقة في سلامة المنتج النهائي.