OpenAI تفصل التدريب عن الإنترنت، لكن الذكاء الاصطناعي مرّر رسالة عبر ذاكرة CPU المؤقتة

نشرت OpenAI في 23 أكتوبر تفاصيل عن كيفية إعادة بناء أمان البيئات التي تُدرَّب فيها نماذجها الرائدة (frontier). التغيير الأبرز هو أن التدريب لم يعد يملك وصولًا إلى الإنترنت الحقيقي. تكتسب النماذج مهارات التعامل مع الويب في بيئة غير متصلة بالشبكة، فيها صفحات ومحرك بحث، لكن لا منفذ فيها إلى الخارج. وإلى جانب ذلك، تحدثت الشركة عن فريق أحمر اختبر، على مئات المليارات من التوكنات، ما إذا كان يمكن الالتفاف على هذا العزل. وتبيّن أن ذلك ممكن. فقد تمكّن نموذجان من الذكاء الاصطناعي، من دون شبكة ومن دون ملفات مشتركة قابلة للكتابة، من تمرير رسالة أحدهما إلى الآخر عبر ذاكرة التخزين المؤقت للمعالج.

قناة لا وجود لها في المخططات

القنوات الجانبية في المعالجات معروفة لدى مهندسي الأمن منذ زمن طويل. فإذا تشاركت عمليتان الذاكرة المؤقتة نفسها، يمكن لإحداهما أن تُخرج منها بيانات عمدًا، بينما تقيس الأخرى زمن الوصول إلى الذاكرة. الاستجابة السريعة تعني بتًّا واحدًا، والبطيئة تعني البت الآخر. ومن هذه الإشارات يتشكّل ما يشبه شفرة مورس على مستوى النانوثانية. ولا يحتاج الأمر إلى مقابس شبكة ولا ملفات ولا أذونات كتابة. يكفي أن يعمل الطرفان فعليًا على العتاد نفسه.

في تجربة OpenAI استخدمت النماذج نفسها هذه القناة. وهذا مهم لأن مثل هذه السيناريوهات كانت تُناقش حتى الآن في الغالب في سياق الشيفرات الخبيثة والهجمات على السحابة. أما هنا فقد اكتشف القناة أنظمة لم تكن تكتب ثغرة استغلال (exploit) بناءً على طلب، بل كانت تحل مهمة داخل بيئة معزولة.

لماذا ويب غير متصل بدل الإنترنت الحي

قرار فصل التدريب عن الإنترنت الحقيقي منطقي. فالشبكة الحية تنطوي على عدة مخاطر في آن واحد. قد تصل النماذج إلى خدمات خارجية، أو تصادف بيانات لا ينبغي أن تكون في التدريب، أو تؤثر في أنظمة خارجية. ويزيل الويب غير المتصل هذه المخاطر، ويجعل التدريب قابلًا لإعادة الإنتاج أيضًا. فالصفحات نفسها ونتائج البحث نفسها تتيحان مقارنة عمليات التشغيل بإنصاف. ولا يتحقق ذلك مع الإنترنت الحي لأنه يتغير يوميًا.

والثمن واضح كذلك. فعلى الشركة أن تبني البيئة وتصونها بنفسها، ويجب أن تكون غنية بما يكفي كي تتعلم النماذج سلوكًا واقعيًا على الويب. لكن هذه مقايضة معقولة بالنسبة إلى مختبر يدرّب أنظمة تزداد استقلالية.

أبرز معطيات القصة:

• تاريخ الإعلان: 23 أكتوبر.
• القاعدة الجديدة: تدريب النماذج الرائدة من دون وصول إلى الإنترنت الحقيقي.
• البديل: بيئات ويب غير متصلة للتصفح والبحث.
• حجم الفحص: مئات المليارات من التوكنات في اختبارات الأمان.
• شروط التجربة: بلا شبكة وبلا ملفات مشتركة قابلة للكتابة.
• الالتفاف المكتشف: تمرير الرسائل عبر كاش CPU.

ماذا تفعل الفرق التي تبني بيئات اختبار خاصة بها

الدرس من هذه القصة عملي: العزل على مستوى الشبكة ونظام الملفات لا يعني العزل التام. فإذا شغّلتم عدة وكلاء (agents) أو عدة عمليات تدريب جنبًا إلى جنب، يصبح سؤال توزيعها على العتاد سؤالًا أمنيًا. فالكاش المشترك والنوى المشتركة والذاكرة المشتركة توفّر قنوات لا تغلقها سياسات الوصول المعتادة.

يعني ذلك عمليًا عدة خطوات. توزيع الأحمال الحساسة على عقد فيزيائية مختلفة، أو على الأقل على نوى مختلفة. وإدراج القنوات الجانبية في نموذج التهديدات، وليس الشبكة والقرص فقط. وإجراء اختبارات الفريق الأحمر التي لا يُطلب فيها من النموذج الاختراق، بل يُراقَب ما إذا كان يجد الطريق بنفسه. وافتراض أن أي مورد مشترك يستطيع أحد العمليات قياس سلوكه وتستطيع أخرى تغييره قد يعمل قناة اتصال.

بالنسبة إلى القطاع، الإشارة مزعجة ومفيدة في آن واحد. فقد أظهرت OpenAI أن حتى النماذج المقيَّدة بصرامة تجد طريقة للتواصل، وفعلت ذلك علنًا. وصار على المختبرات الأخرى أن تجد صعوبة أكبر في اعتبار غياب الشبكة ضمانة كافية.