جيلبريك الذكاء الاصطناعي: أداة جديدة تتجاوز حماية نماذج Google وOpenAI وAnthropic وxAI

اختبرت Wired أداة جديدة للجيلبريك، أي لتجاوز قيود الأمان المدمجة، على نماذج أكبر أربع شركات ذكاء اصطناعي: Google وOpenAI وAnthropic وxAI. وخلاصة المراسل واضحة: إزالة الحماية عن بعض النماذج المتقدمة (frontier) ممكنة بسهولة مقلقة.

ماذا أظهرت تجربة Wired

راقب مراسل Wired الأداة الجديدة وهي تحاول، الواحد تلو الآخر، تجاوز آليات الحماية في نماذج أربع شركات رائدة (frontier). وهي الشركات المطوّرة لنماذج Gemini (من Google) وGPT (من OpenAI) وClaude (من Anthropic) وGrok (من xAI)، أي عملياً الصف الأعلى في الصناعة بأكمله. ووفق ملاحظة الصحيفة، تصرفت النماذج بشكل مختلف: بعضها صمد أفضل، وبعضها الآخر كان أضعف بوضوح، ويصف الكاتب هذا التفاوت تحديداً بأنه غير متوقع.

أبرز الوقائع الواردة في المادة:

• اختُبرت الأداة على نماذج أربع شركات: Google وOpenAI وAnthropic وxAI
• استُهدفت آليات الحماية (safeguards) في النماذج الرائدة: Gemini وGPT وClaude وGrok
• الاستنتاج الرئيسي لـ Wired: تجاوز الحماية في بعض النماذج المتقدمة سهل بصورة مقلقة
• تتباين مقاومة الاختراق بوضوح بين الشركات

«راقبتُ الأداة الجديدة وهي تحاول تجاوز آليات الحماية في أربع شركات كبرى رائدة (frontier). قد يدهشك أداؤها»، بحسب ما جاء في تقرير

Wired.

ما هو جيلبريك النموذج

الجيلبريك أسلوب يدفع النموذج اللغوي إلى تقديم ما لا يُفترض به تقديمه وفق القواعد: تعليمات لصنع الأسلحة، أو شيفرات خبيثة، أو معلومات مضللة، أو أي محتوى محظور آخر. فللنموذج رسمياً مرشّحات وقواعد، لكن طلباً مصاغاً بعناية يتجاوزها.

ومن الأساليب الكلاسيكية سيناريوهات تقمّص الأدوار («تخيّل أنك شرير في فيلم»)، وتمويه الطلب في هيئة مهمة تعليمية، والتصعيد التدريجي من الطلب البريء إلى المحظور، أو تبديل السياق. أما الأدوات الجديدة فتؤتمت هذه المحاولات: فبدلاً من انتقاء الصياغات يدوياً، تمرّر على النموذج مئات الصيغ إلى أن تنجح إحداها. وتستثمر الشركات الأربع المشاركة في الاختبار علناً في red-teaming، أي الفحص التنافسي لمتانة النماذج قبل إطلاقها، لكن الجيلبريك يظل من أبرز فئات الهجمات على النماذج اللغوية الكبيرة.

لماذا يشكّل ذلك خطراً

يكمن الخطر في أن الجيلبريك الناجح يحوّل المساعد المريح إلى مصدر ضرر حقيقي. فما دام النموذج يكتفي بالرد في المحادثة، تبقى كلفة الخطأ محدودة؛ لكن النماذج الرائدة تحصل بصورة متزايدة على صلاحية استخدام الأدوات والمتصفح وتنفيذ إجراءات نيابة عن المستخدم، وعندئذ يضاعف غياب الحماية حجم العواقب. وخلافاً للثغرة المعتادة في البرمجيات، لا يمكن سدّ الجيلبريك بتحديث واحد: فالنموذج ليس سطراً من الشيفرة بل سلوكاً مكتسباً بالتدريب، وغالباً ما يفتح ترقيع ثغرة واحدة ثغرة أخرى.

ويشكّل التفاوت في النتائج بين الشركات الأربع إشارة مستقلة. فهو يعني أن «أمان النموذج الرائد» ليس معياراً موحداً في القطاع، بل خاصية لمنتج بعينه: لدى بعضها حواجز أعلى، وفي نماذج أخرى تُزيلها الأداة نفسها. وبالنسبة للشركات التي تدمج هذه النماذج في خدماتها، هذا هو الفارق بين مخاطرة يمكن إدارتها وأخرى لا يمكن ضبطها.

ماذا يعني ذلك

يذكّر اختبار Wired مرة أخرى بأن آليات الحماية في النماذج الرائدة ليست مطلقة، وأن موثوقيتها تتفاوت بوضوح من شركة إلى أخرى. ومع حصول مساعدات الذكاء الاصطناعي على صلاحيات واستقلالية أكبر، لم تعد مقاومة الجيلبريك موضوعاً نظرياً للباحثين، بل أصبحت معياراً عملياً لاختيار النموذج.