GPT-Red من OpenAI: فريق أحمر آلي يعتمد اللعب الذاتي للتصدي لهجمات حقن الأوامر

كشفت OpenAI في يوليو 2026 عن GPT-Red، وهو نظام آلي للاختبار الهجومي (red teaming) يهاجم فيه النموذج اللغوي نفسه عبر اللعب الذاتي (self-play)، ويكتشف الثغرات، ويتعلم سدّها. وبحسب ما ورد في مدونة OpenAI، تتمثل الأهداف الرئيسية للمشروع في الأمان والمواءمة (alignment) والمتانة أمام هجمات حقن الأوامر (prompt injection).

كيف يعمل اللعب الذاتي في GPT-Red

يؤتمت GPT-Red عملية الاختبار الهجومي: يتولى أحد أدوار النموذج توليد طلبات هجومية، بينما يتعلم الدور الآخر كشفها وصدّها، وتتكرر الدورة دون تدخل بشري. ويستلهم هذا المبدأ نهج AlphaGo من DeepMind، إذ أصبح البرنامج في عام 2016 أقوى لاعب في لعبة «غو» عبر لعبه ضد نفسه. أما اليوم فتُطبَّق آلية اللعب الذاتي نفسها لا على لعبة لوحية، بل على البحث عن الثغرات في دفاعات النماذج اللغوية.

«يستخدم GPT-Red اللعب الذاتي (self-play) لتحسين أمان الذكاء الاصطناعي والمواءمة (alignment) والمتانة أمام هجمات حقن الأوامر (prompt injection)»، وفق ما جاء في إعلان المنشور على مدونة

OpenAI.

يصطدم الاختبار الهجومي التقليدي بمحدودية العنصر البشري: يبتكر الخبراء السيناريوهات الاستفزازية يدويًا، والمتخصصون في هذا المجال قلّة في السوق. أما النظام الآلي فيزيل قيد الحجم، إذ يولّد النموذج ويختبر عددًا من الهجمات يفوق بأضعاف مضاعفة ما يستطيعه أي فريق بشري، ويفعل ذلك بصورة متواصلة، ويمكن إعادة تشغيله بعد كل تحديث للأوزان.

لماذا يهم هذا وكلاء الذكاء الاصطناعي

هجوم حقن الأوامر (prompt injection) هو هجوم تُخفى فيه تعليمات خبيثة داخل بيانات خارجية، كرسالة بريد إلكتروني أو صفحة ويب أو مستند، فينفذها الوكيل على أنها أمر صادر من مالكه. وتضع OpenAI المتانة أمام هجمات حقن الأوامر ضمن الأهداف الثلاثة الرئيسية لـ GPT-Red إلى جانب الأمان والمواءمة (alignment)، وهو ما أُثبت صراحةً في إعلان المنشور.

وتبدو هذه الحماية حاسمة بالنسبة لوكلاء المتصفحات والبريد الإلكتروني: فالنموذج الذي يقرأ الإنترنت يقرأ حتمًا تعليمات المهاجمين أيضًا. وتعدّ الصناعة هجمات حقن الأوامر المشكلة الكبرى التي لم تُحَلّ بعد في عصر الوكلاء، فكلما زاد استقلال الوكلاء الذين يملكون وصولًا إلى أموال المستخدم وبريده وملفاته، ارتفعت كلفة كل هجوم يمرّ دون أن يُكتشف.

التحسين الذاتي كاستراتيجية دفاعية

يعلن عنوان منشور OpenAI، «Unlocking Self-Improvement for Robustness»، رهانه الصريح على التحسين الذاتي: فالنموذج لا يُفحص من الخارج فحسب، بل يجعل نفسه أكثر متانة بنفسه. ويغيّر ذلك اللاتماثل المألوف في الأمن السيبراني، حيث يكفي المهاجم محاولة ناجحة واحدة، بينما يتعين على المدافع سدّ جميع الثغرات دفعة واحدة. أما الآن فيعمل المهاجم الآلي في صف الدفاع، ويكتشف الثغرة قبل أن يجدها المهاجم الحقيقي.

وتبقى أسئلة كثيرة مفتوحة: فلا تورد OpenAI في وصفها المقتضب أي مقاييس علنية، لا عدد الثغرات التي يكتشفها GPT-Red، ولا مقدار الانخفاض في نسبة هجمات الحقن الناجحة بعد التدريب. ويمكن الحكم على الأثر العملي من خلال متانة الإصدارات المقبلة من نماذج OpenAI.

ماذا يعني ذلك

يتحول أمان النماذج الرائدة من تدقيق يدوي إلى خط إنتاج آلي: إذ تبدأ النماذج بمهاجمة نفسها وإصلاحها. وإذا أمكن توسيع نطاق نهج GPT-Red، فستصبح المتانة أمام هجمات حقن الأوامر خاصية قابلة للقياس في النماذج، مثل نتائج اختبارات الأداء (benchmarks) في البرمجة أو الرياضيات اليوم.

أسئلة شائعة

ما المقصود بالاختبار الهجومي الآلي (red teaming)؟

الاختبار الهجومي (red teaming) هو شنّ هجمات متعمدة على نظام ما بهدف العثور على ثغراته قبل أن يعثر عليها المهاجمون. وفي GPT-Red لا يؤدي هذا الدور فريق من البشر، بل النموذج نفسه: فهو يولّد، عبر اللعب الذاتي (self-play)، هجمات على دفاعاته الخاصة ويتعلم مقاومتها.

ما هو هجوم حقن الأوامر (prompt injection) وما خطورته؟

هجوم حقن الأوامر هو تعليمات مخفية داخل بيانات خارجية (رسالة بريد أو صفحة أو ملف) ينفذها النموذج خطأً على أنها أمر من المستخدم. وبالنسبة لوكلاء الذكاء الاصطناعي الذين يملكون وصولًا إلى البريد والمتصفح، يمثل ذلك أبرز ناقل للهجمات. وتصف OpenAI المتانة أمام هذه الهجمات تحديدًا بأنها أحد الأهداف الثلاثة لـ GPT-Red.