OpenAI تحمي استدلال GPT-6.2 Astra: نسبة نجاح السرقة تتراجع من 54% إلى 0,2%
إذا شغّل أحدهم نموذجًا قويًا عبر API بكثافة ودرّب نموذجه الخاص على مخرجاته، فستحصل النسخة على المهارات دون القيود، ومنها مثلًا المساعدة في تنفيذ هجمات سيبرانية. تسد OpenAI هذا المسار فيما يخص سلاسل الاستدلال، أي الخطوات الخفية التي يمر بها النموذج قبل أن يجيب. في اختبار استخدمت فيه جهات مهاجمة آلية، تراجعت نسبة نجاح استخراج الاستدلال من الطلب السابق من 54,0% في GPT-6 Astra إلى 0,2% في GPT-6.2 Astra. وإذا كنتم تقدّمون نموذجًا عبر API، فتحققوا من التسريبات في وسائط استدعاء الأدوات أيضًا.
معالج بواسطة الذكاء الاصطناعي من OpenAI Blog؛ بتحرير Hamidun News
تخيّلوا أنكم تبنون منذ سنوات نموذجًا مكلفًا بقيود صارمة: يساعد المدافعين على اكتشاف الثغرات في الشيفرة، لكنه يرفض المساعدة في الهجمات الحقيقية. ثم يشغّله أحدهم بكثافة عبر API، ويجمع الإجابات ويدرّب عليها نموذجه الخاص. تنتقل المهارات، أما القيود فلا.
تسمّي OpenAI ذلك «التقطير العدائي» (adversarial distillation)، وقد كشفت في 20 نوفمبر كيف تتصدى له. الرقم الأبرز: في اختبار حاولت فيه جهات هجومية آلية تعمل بالذكاء الاصطناعي انتزاع الاستدلال الخفي للنموذج من الطلب السابق، تراجعت نسبة الهجمات الناجحة من 54,0% في GPT-6 Astra إلى 0,2% في GPT-6.2 Astra.
تُسمّى هذه النسبة في المصدر ASR، أي نسبة الهجمات الناجحة: وكلما انخفضت كانت الحماية أفضل. وإذا كنتم تقدّمون نموذجًا للخارج عبر API، فهذه دعوة إلى العمل: يجب حماية الاستدلال بالقدر نفسه الذي تُحمى به الإجابات النهائية.
لماذا تُسرق «الأفكار» لا الإجابات
التقطير تقنية معتادة في حد ذاتها: يتعلم نموذج («الطالب») من بيانات نموذج آخر («المعلّم»)، مثل إجاباته أو استدلالاته أو تقييماته لأفضل الإجابات. تبدأ المشكلات حين يحدث ذلك دون إذن. فإلى جانب مسائل الملكية الفكرية، يرث الطالب القدرات ولا يرث قيود الحماية. ويزداد الخطر في المجالات مزدوجة الاستخدام، مثل الأمن السيبراني والبيولوجيا: فالنموذج الذي يساعد على إيجاد الثغرات قد يساعد أيضًا على استغلالها.
تمثّل سلاسل الاستدلال هدفًا خاصًا للمهاجمين، وهي الخطوات الوسيطة التي يولّدها النموذج داخليًا قبل أن يجيب. وقد تحتوي على معلومات غير موجودة في النص النهائي، ولذلك فهي بيانات تدريب قيّمة.
اختبرت OpenAI ذلك على المهارات السيبرانية. خضع طالب واحد مُسبق التدريب لتدريب إضافي على مسارات نماذج من فئة Astra: مهام برمجة وأمن سيبراني دفاعي بكل خطواتها واستدعاءات الأدوات والإجابات النهائية. واعتُبر الخيار الأساسي هو ما يراه المستخدم عادةً: الإجابات وملخصات موجزة للاستدلال والعمل مع الأدوات. وقورن هذا الطالب بطالب حصل على سلاسل الاستدلال الدقيقة.
بعد التدريب الإضافي المعتاد، تبيّن أن الطالب المدرَّب على السلاسل الدقيقة أقوى إجمالًا من الطالب المدرَّب على الملخصات. وبعد جولة خفيفة من التعلم المعزَّز في بيئات الأمن السيبراني والبرمجة، ظل متفوقًا عند أكبر ميزانية للاستدلال في الاختبارين المعروضين، بينما تصدّر الطالب المدرَّب على الملخصات عند الميزانيات الأصغر. وخلاصة الشركة: قد تحدّ حماية السلاسل الدقيقة من انتقال المهارات السيبرانية، حتى لو كانت المهام الأصلية مسموحة وفق السياسات. أما حجم المهارات التي تنتقل إلى طلاب آخرين وبوصفات تدريب أخرى، فما زالت OpenAI تدرسه.
كيف صُمّمت الحماية
تعمل الحماية على مستويين. الأول هو مستوى الطلب:
- يُدرَّب النموذج إضافيًا على هجمات ناجحة حقيقية مصدرها اختبار الاختراق الآلي الداخلي (red-teaming) والتحقيقات وبلاغات باحثين خارجيين: فيرفض كشف الاستدلال المحمي، لكنه يواصل شرح قراراته بصورة طبيعية عند الطلب المشروع؛
- تلتقط المصنِّفات على المدخلات محاولات انتزاع الاستدلال، وتبحث المصنِّفات على المخرجات عن التسريبات في رسائل المساعد وفي وسائط استدعاء الأدوات، سواء في الردود المتدفقة أو غير المتدفقة. وتكمن أهمية الوسائط في أن النموذج قد «يضع» الاستدلال فيها، فلا يظهر في الإجابة النهائية؛
- في API يرتبط الاستدلال المحمي بسجل المحادثة. فإذا أُعيدت كتابة رسالة سابقة، يُسقط API الاستدلال الذي جاء بعدها. ولا تستطيع العائلات القديمة من النماذج ذات الحماية الضعيفة قراءة استدلال GPT-6.2 Astra وSol. كما عُزّزت الحدود بين المستخدمين ومساحات العمل والمؤسسات وعائلات النماذج، وأُغلق مسار كان قد يكشف استدلالات مشفّرة تخص الآخرين.
المستوى الثاني هو مستوى الحملة. تبحث OpenAI عن أنماط في إشارات الطلبات والحسابات تدل على استخراج منسّق، وتحظر شبكات كاملة من الحسابات. وتتحول كل حالة تُحلَّل إلى مثال لتدريب الحماية واختبارها، وتشارك الشركة مؤشرات الاختراق مع مزوّدين آخرين. وبحسب بياناتها، تشمل عمليات الحظر الأسبوعية من آلاف إلى عشرات الآلاف من الحسابات، وقد ارتفعت وتيرتها بوضوح هذا الصيف.
ماذا أظهرت القياسات
جرى الفحص في اختبار تكيّفي من نوع «الصندوق الأسود»: يرى المهاجمون النظام كما يراه مستخدم خارجي، ويكيّفون أساليبهم وفق ردوده. وهذا يكشف نقاط ضعف تفوتها الاختبارات الثابتة ذات المجموعة المحددة من الهجمات القديمة. والنتيجة هي متوسط عبر ستة نماذج مهاجِمة. في استخراج الاستدلال من الطلب السابق، تراجع النجاح من 54,0% في GPT-6 Astra إلى 0,2% في GPT-6.2 Astra. وفي الطلب الحالي تراجع من 22,9% إلى 0,9%. وتطبّق OpenAI الآن جزءًا من تحسينات الحماية على GPT-6 Astra أيضًا.
والتحفظات هي التالية: هذا تقييم داخلي أجرته الشركة نفسها، وهو يقيس المتانة أمام فئات الهجمات المعروفة، لا أمام الهجمات المستقبلية.
وتصف OpenAI التقطير أيضًا بأنه مسألة أمن قومي: فجهة أجنبية تعيد إنتاج قدرات نموذج أمريكي قد تنشرها دون حمايات. وفي فبراير أبلغت الشركة الكونغرس بوجود مؤشرات على محاولات من DeepSeek لتقطير نماذج أمريكية متقدمة.
الخلاصة العملية لمن يقدّمون النماذج عبر API: تحققوا من تسريبات الاستدلال في الرسائل ووسائط الأدوات، ولا تسمحوا بإعادة استخدام الاستدلال المشفّر بين المحادثات والنماذج، واحتفظوا بالهجمات المكتشفة بوصفها اختبارات انحدار (regression tests)، وأضيفوا إلى حماية الطلبات البحث عن الحملات على مستوى الحسابات. فالاستدلال الخام للنموذج أثمن من كل ما يقدّمه API لديكم تقريبًا، ولذلك ينبغي التعامل معه كبيانات حساسة.
- 20 نوفمبر 2026Nvidia ضخّت 58,1 مليار دولار في شركات أخرى خلال 9 أشهر، أي 12 ضعف ما استثمرته قبل عام
- 20 نوفمبر 2026METR تحدّث رسمها البياني الشهير للذكاء الاصطناعي: طول المهام يتضاعف كل 4 أشهر، لكن الحكم والتقدير ما زالا نقطة ضعف
- 20 نوفمبر 2026الذكاء الاصطناعي يجمّع الجزيئات بنسبة 95,4% من الدرجات، لكنه لا يحقق سوى نحو 50% في اختيار مرشحي الأدوية
- 20 نوفمبر 2026Nvidia تقترب من شراء Inception مقابل 500 مليون دولار على الأقل لأجل نماذج LLM الانتشارية
أسئلة وأجوبة حول الخبر
ما أبرز التفاصيل حول لماذا تُسرق «الأفكار» لا الإجابات؟
التقطير تقنية معتادة في حد ذاتها: يتعلم نموذج («الطالب») من بيانات نموذج آخر («المعلّم»)، مثل إجاباته أو استدلالاته أو تقييماته لأفضل الإجابات. تبدأ المشكلات حين يحدث ذلك دون إذن. فإلى جانب مسائل الملكية الفكرية، يرث الطالب القدرات ولا يرث قيود الحماية. ويزداد الخطر في المجالات مزدوجة الاستخدام، مثل الأمن السيبراني والبيولوجيا: فالنموذج الذي يساعد على إيجاد الثغرات قد يساعد أيضًا على استغلالها. تمثّل سلاسل الاستدلال هدفًا خاصًا للمهاجمين، وهي الخطوات الوسيطة التي يولّدها النموذج داخليًا قبل أن يجيب.
ما أبرز التفاصيل حول كيف صُمّمت الحماية؟
تعمل الحماية على مستويين. الأول هو مستوى الطلب: يُدرَّب النموذج إضافيًا على هجمات ناجحة حقيقية مصدرها اختبار الاختراق الآلي الداخلي (red-teaming) والتحقيقات وبلاغات باحثين خارجيين: فيرفض كشف الاستدلال المحمي، لكنه يواصل شرح قراراته بصورة طبيعية عند الطلب المشروع؛ تلتقط المصنِّفات على المدخلات محاولات انتزاع الاستدلال، وتبحث المصنِّفات على المخرجات عن التسريبات في رسائل المساعد وفي وسائط استدعاء الأدوات، سواء في الردود المتدفقة أو غير المتدفقة.
ما أبرز التفاصيل حول ماذا أظهرت القياسات؟
جرى الفحص في اختبار تكيّفي من نوع «الصندوق الأسود»: يرى المهاجمون النظام كما يراه مستخدم خارجي، ويكيّفون أساليبهم وفق ردوده. وهذا يكشف نقاط ضعف تفوتها الاختبارات الثابتة ذات المجموعة المحددة من الهجمات القديمة. والنتيجة هي متوسط عبر ستة نماذج مهاجِمة. في استخراج الاستدلال من الطلب السابق، تراجع النجاح من 54,0% في GPT-6 Astra إلى 0,2% في GPT-6.2 Astra. وفي الطلب الحالي تراجع من 22,9% إلى 0,9%. وتطبّق OpenAI الآن جزءًا من تحسينات الحماية على GPT-6 Astra أيضًا.
Test Frontier LLMs & Autonomous Agents in One Workspace
Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.