OpenAI وHacktron تركّزان التدقيق على طبقة واحدة: التكاملات الخارجية

نادراً ما يخترق وكيل الذكاء الاصطناعي نظاماً بمفرده. تبدأ المشكلات الحقيقية عند نقاط التقاطع: يستدعي النموذج واجهة API خارجية، ويحصل على رمز مميز مؤقت، ويقرأ بيانات من السحابة، ثم يمرّر النتيجة إلى الخدمة التالية. قد تبدو كل عملية آمنة على حدة، لكنها مجتمعة تشكّل مسار هجوم جديداً.

هذه الطبقة تحديداً هي ما تنوي OpenAI فحصها مع Hacktron. سيعمل باحثو الشركة مع مهندسي OpenAI على مجالات أولوية محددة، مع إيلاء اهتمام خاص لتفاعل الأنظمة مع الخدمات الخارجية. كما ستحصل Hacktron على وصول موسّع إلى النماذج المتقدمة عبر برنامج Daybreak Red.

لماذا تُفحص نقاط التقاطع تحديداً

لنتخيل وكيلاً مؤسسياً يعالج طلبات العملاء. فهو يقرأ رسالة بريد إلكتروني، ويبحث عن البيانات في نظام CRM، ويطلب سجل المدفوعات، وينشئ مهمة لفريق الدعم. لكل خدمة نظام تفويض خاص بها، لكن الوكيل يربطها في سلسلة واحدة.

إذا تمكّن مهاجم من دفع الوكيل إلى تنفيذ إجراء غير مرغوب فيه عبر محتوى الرسالة، فلن تعتمد العواقب على النموذج وحده. فالمهم هو الرموز المميزة المتاحة للعملية، وهل يُسمح لها بتصدير بطاقة العميل كاملة، وهل تستطيع إنشاء مستخدمين جدد، وهل يتحقق النظام من الغرض من كل استدعاء. فقد تظهر الثغرة بين مكوّنات اجتاز كل منها التدقيق منفرداً.

تتخصص Hacktron في هذا النوع من الروابط: التطبيقات والبنية التحتية السحابية وأنظمة إدارة الوصول. ويطوّر فريقها وكلاء ذكاء اصطناعي لتحليل الشيفرة واختبار الاختراق والمحاكاة الهجومية (red teaming). وقد تعرّفت OpenAI عليه عبر برنامج المكافآت الخاص بها لاكتشاف الأخطاء، بعدما اكتشف الباحثون عدة ثغرات وأفصحوا عنها بشكل مسؤول.

ما الذي يتغير في نهج OpenAI

لا تحلّ الشراكة محل الأمن الداخلي. ستعمل Hacktron إلى جانب مهندسي OpenAI، وسيظل بإمكان الباحثين المستقلين إرسال ما يكتشفونه عبر برنامج bug bounty. وقبل ذلك بوقت قصير، أعلنت OpenAI أيضاً جولة جديدة من الاختبارات المكثفة مع Cathedral، ورفعت مكافآت الثغرات المكتشفة.

وينتج عن ذلك نظام متعدد المستويات: فرق المنتج تعرف بنية الأنظمة، والمتخصصون المدعوون يبحثون عن سلاسل الهجوم المعقدة، وبرنامج المكافآت المفتوح يوسّع دائرة الفاحصين. ومن المفترض أن يساعد الوصول إلى نماذج أقوى الباحثين على تحليل الشيفرة والبنية التحتية بسرعة أكبر، لكن المنشور لا يذكر نتائج الاختبارات ولا عدد الأخطاء المكتشفة ولا مواعيد الإصلاح. لذلك فهو حتى الآن وعدٌ بعملية، لا دليلاً على فعاليتها.

وثمة قيد واضح أيضاً: فالأداة القوية نفسها التي تسرّع عمل المدافعين قادرة على تسريع عمل المهاجمين. ويتطلب الوصول الموسّع عزل البيئة وتسجيل الإجراءات ورقابة صارمة على الأنظمة التي يمكن للوكيل المساس بها. ووجود نموذج متقدم وحده لا يضمن تدقيقاً جيداً، بل يلزم متخصصون ذوو خبرة وفحوص قابلة لإعادة الإنتاج وآلية واضحة لإصلاح ما يُكتشف.

ماذا يفعل المطورون وأصحاب المنتجات

عند تصميم الوكيل، لا ترسم مخطط الموجّهات (prompts) فقط، بل ارسم خريطة كاملة للصلاحيات: أي واجهات API يستدعيها، وأين توجد الرموز المميزة، وما البيانات التي يقرؤها، وإلى أين يمكنه إرسالها. حدّد لكل خطوة أدنى الصلاحيات، وقيّد حجم العمليات، واحتفظ بسجل للاستدعاءات.

افحص السلاسل بشكل منفصل، لا المكوّنات فقط. جرّب تمرير تعليمات خبيثة عبر رسالة بريد أو مستند أو رد من خدمة خارجية، وراقب هل تستطيع تغيير سلوك الوكيل. أما الإجراءات الحرجة، مثل المدفوعات ومنح الوصول وحذف البيانات، فالأفضل تأكيدها بشكل منفصل وعدم الاعتماد على قرار واحد من النموذج.

الخلاصة الرئيسية من شراكة OpenAI وHacktron بسيطة: سطح الهجوم في منتج الذكاء الاصطناعي لا ينتهي عند النموذج. وكلما زاد عدد الخدمات التي يربطها الوكيل، زادت أهمية فحص الحدود بينها، فهناك تحديداً قد تتحد وظائف آمنة منفردة لتشكّل سيناريو خطيراً.