IronCurtain: مشروع مفتوح المصدر يمنع وكلاء الذكاء الاصطناعي من الخروج عن السيطرة

يشهد قطاع الذكاء الاصطناعي طفرة في الوكلاء المستقلين، وهي برامج لا تكتفي بالإجابة عن الأسئلة، بل تتصرف بنفسها داخل العالم الرقمي للمستخدم: ترسل الرسائل الإلكترونية، وتحجز المواعيد، وتحرّر المستندات، وتدير الاشتراكات. لكن كلما اتسعت صلاحيات الذكاء الاصطناعي، ازداد السؤال إلحاحًا: ماذا سيحدث حين يتخذ الوكيل قرارًا خاطئًا؟ ويقدّم مشروع IronCurtain المفتوح المصدر، الذي كتبت عنه مجلة Wired، إجابة عن هذا السؤال، ونهجه يختلف جذريًا عمّا تفعله المختبرات الكبرى.

المشكلة التي يعالجها IronCurtain ليست نظرية. فخلال العام الأخير أطلقت عشرات الشركات، من OpenAI وGoogle إلى شركات ناشئة مثل Adept وCognition، وكلاء ذكاء اصطناعي قادرين على التفاعل مع التطبيقات والخدمات نيابةً عن الإنسان. وتحصل هذه الأنظمة على صلاحية الوصول إلى البريد الإلكتروني والتطبيقات المصرفية وأدوات العمل. غير أن نماذج اللغة التي تقوم عليها تظل أنظمة احتمالية: فقد تُصاب بالهلوسة، أو تسيء تفسير التعليمات، أو تقع ضحية حقن الأوامر (prompt injection)، وهو هجوم يدفع فيه نص خبيث داخل رسالة بريد إلكتروني أو صفحة ويب الوكيلَ إلى تنفيذ إجراء غير مرغوب فيه. تخيّلوا أن مساعدكم الذكي، بعد قراءة رسالة صيغت بعناية لهذا الغرض، بدأ يرسل مستندات سرية إلى أطراف ثالثة. هذا ليس خيالًا علميًا، فقد أظهر باحثو الأمن ثغرات مماثلة بالفعل.

يقوم النهج التقليدي لمعالجة هذه المشكلة على تضمين القيود في نموذج اللغة نفسه عبر موجّهات النظام (system prompts) أو الضبط الدقيق (fine-tuning) أو RLHF. أما IronCurtain فيسلك طريقًا مختلفًا. إذ ينشئ المشروع محيط حماية خارجيًا، أشبه بـ«ستار حديدي» بين نوايا الوكيل والعالم الحقيقي. فقبل تنفيذ أي إجراء يقوم به وكيل الذكاء الاصطناعي، يمرّ عبر منظومة من القواعد والسياسات الصارمة التي لا يمكن الالتفاف عليها بالتلاعب بالموجّه. وهذا قرار معماري جوهري: فقد نُقلت الحماية خارج النموذج، حيث لا تتعرض لنقاط الضعف ذاتها التي يتعرض لها الذكاء الاصطناعي نفسه.

من الناحية التقنية، يمكن تشبيه ذلك بجدار الحماية (firewall) في الشبكات الحاسوبية. فجدار الحماية لا يحاول جعل كل برنامج آمنًا من الداخل، بل يتحكم في حركة البيانات المسموح بمرورها وتلك المحظورة، بصرف النظر عن نوايا البرنامج. وبالمثل، يعترض IronCurtain استدعاءات API وأوامر النظام الصادرة عن الوكيل، ويطابقها مع مجموعة سياسات يحددها المستخدم أو المسؤول، ولا يسمح إلا بالإجراءات المسموح بها صراحةً. وإذا حاول الوكيل إرسال رسالة إلى عنوان غير معروف، أو حذف ملف، أو تنفيذ عملية مالية تتجاوز حدًّا معيّنًا، فإن الإجراء يُحظر ويتلقى المستخدم إشعارًا بذلك.

وانفتاح الشيفرة عنصر أساسي آخر في فلسفة المشروع. فعلى عكس حلول الأمان المغلقة المدمجة في الوكلاء التجاريين، يتيح IronCurtain لأي مطوّر أو باحث أن يدرس آلية عمل القيود بدقة، ويبحث عن ثغرات محتملة، ويقترح تحسينات. وتزداد أهمية ذلك في ظل تنامي عدم الثقة بـ«الصناديق السوداء» التي تعتمدها شركات الذكاء الاصطناعي الكبرى. فحين يتعلق الأمر بنظام يتحكم في وصول الذكاء الاصطناعي إلى حياتكم الرقمية، تتوقف الشفافية عن كونها ميزة إضافية وتصبح ضرورة.

ويشير ظهور IronCurtain إلى تحوّل مهم في طريقة تفكير القطاع. فلفترة طويلة، عُدّ أمن وكلاء الذكاء الاصطناعي مهمة تُحلّ على مستوى النموذج نفسه، بجعله «أكثر طاعة» و«أكثر حذرًا». لكن الممارسة تُظهر أن لهذا النهج حدودًا جوهرية: فالنموذج الذي يكفي ذكاؤه ليكون مفيدًا لا بد أن يكون مرنًا بما يكفي ليُخدع. أما محيط الأمان الخارجي الذي يعمل بقواعد حتمية (deterministic)، فلا يحلّ محل القيود الداخلية للنموذج، لكنه يوفّر خط دفاع ثانيًا بالغ الأهمية. وهذا هو مبدأ «الدفاع المتعمّق» نفسه الذي يُطبَّق في الأمن السيبراني منذ عقود.

ومع ذلك، لهذا النهج حدوده. فقد تُقلّل القواعد الصارمة من فائدة الوكيل: إذا كانت السياسة متشددة أكثر من اللازم، يتحوّل المساعد الذكي إلى برنامج عديم الجدوى يطلب تأكيدًا على كل إجراء. ويظل التوازن بين الأمان والوظائف مسألة تصميم لم تُحسم بعد، وما يقدّمه IronCurtain حتى الآن أدوات لا وصفات شاملة. كما أن المشروع لا يزال في مرحلة مبكرة، وما زالت متانته الفعلية أمام الهجمات المعقدة بحاجة إلى اختبار في ظروف حقيقية.

ومع ذلك، فالاتجاه صحيح. فمع تحوّل وكلاء الذكاء الاصطناعي إلى واقع يومي، وقد بات يُطلق على عام 2026 بالفعل عام الذكاء الاصطناعي الوكيلي، ستزداد الحاجة إلى أنظمة رقابة موثوقة وشفافة ومستقلة عن أي نموذج بعينه. وقد يصبح IronCurtain المعيار الذي يتشكل حوله نظام بيئي كامل من أدوات الأمان للذكاء الاصطناعي المستقل. وإن حدث ذلك، فسنتذكر هذا المشروع بوصفه اللحظة التي أقرّ فيها القطاع أخيرًا بأن الوثوق بالوكيل لا يعني الوثوق به عمياء.