Prompt Worms: وكلاء الذكاء الاصطناعي لديكم تعلّموا نقل الفيروسات إلى بعضهم

تخيّلوا أن مساعدكم الشخصي القائم على الذكاء الاصطناعي لم يكتفِ بقراءة رسالة من مرسِل بريد مزعج، بل «أُصيب» بأفكاره فعليًا وبدأ يرسلها إلى جميع جهات اتصالكم، وفي أثناء ذلك يسرق كلمات المرور من قاعدة بيانات الشركة. هذا ليس سيناريو رعب من أدب السايبربانك في التسعينيات، بل واقع جديد يصفه باحثو الأمن في سياق ظهور Prompt Worms. وبينما تنشغل الصناعة بالحديث عن وكلاء مستقلين سيحجزون لنا الفنادق ويكتبون الشيفرة نيابةً عنا، وجد المهاجمون طريقة لتحويل هذه الأدوات إلى ناقلين مثاليين للعدوى الرقمية. لقد دخلنا عصرًا قد تصبح فيه جملة عادية بلغة بشرية برمجية خبيثة.

كان الحادث الأخير في مشروع Moltbook، الذي تسرّب فيه 1.5 مليون مفتاح API لخدمات ذكاء اصطناعي رائدة إلى الشبكة المفتوحة، جرس إنذار مدويًا لكنه متوقَّع. فتسريب المفاتيح خطأ أمني كلاسيكي، سببه عامل بشري أو ثغرة في قاعدة بيانات. غير أن المشكلة الحقيقية التي كشفتها الاختبارات اللاحقة أعمق من ذلك بكثير. فـ«ديدان الـprompt» تمثّل ثغرة جوهرية في بنية النماذج اللغوية الكبيرة نفسها. لقد علّمنا الآلات فهم المعنى والسياق، لكننا لم نعلّمها بعد التمييز بين تعليمة مفيدة وفيروس مغلَّف بطلب مهذّب أو مخبّأ في البيانات الوصفية لوثيقة عادية.

آلية هذا الهجوم أنيقة ومخيفة في آنٍ واحد. يتلقى الوكيل رسالة أو وثيقة تحتوي على تعليمة مخفية لا ينتبه إليها الإنسان أصلًا. وعند معالجة النص، يعامل النموذج هذا المقطع على أنه أمر مشروع يتوجب تنفيذه. فتدفع الدودة الوكيل إلى نسخ نفسها في الرسالة الصادرة التالية، أو، وهو الأسوأ، إلى كتابة شيفرة خبيثة في قاعدة بيانات الذاكرة طويلة المدى. وهكذا يبدأ الفيروس بالعيش داخل المنظومة، وينتقل من ذكاء اصطناعي إلى آخر مع كل تفاعل. يذكّر ذلك بوباء بيولوجي، تؤدي فيه الخوارزميات التي اعتدنا الوثوق بها دور الناقلين.

أدخل الباحثون مصطلح Lethal Trifecta، أي الثالوث القاتل الذي يجعل مثل هذه الهجمات ممكنة. ويتألف من ثلاثة عناصر: استقلالية الوكيل، ووصوله إلى أدوات خارجية مثل البريد والتقويم، وقدرته على تبادل البيانات مع أنظمة أخرى. وحين تجتمع هذه العوامل الثلاثة، يصبح وكيل الذكاء الاصطناعي ناقلًا مثاليًا للهجوم. فهو قادر على اتخاذ القرارات بنفسه، ويملك مفاتيح بياناتكم، ويستطيع «التحدث» مع العالم الخارجي. وفي مثل هذا التكوين، قد يكفي ملف PDF واحد مصاب في التخزين السحابي لاختراق الشبكة الداخلية للشركة بأكملها، لأن مساعدي الذكاء الاصطناعي يثقون ثقة عمياء بالمحتوى الذي يفهرسونه.

وأكثر ما يثير القلق في هذا الوضع أن أساليب الحماية التقليدية عديمة الفائدة تمامًا هنا. فبرامج مكافحة الفيروسات وجدران الحماية العادية تبحث عن شيفرة قابلة للتنفيذ أو ملفات ثنائية مشبوهة أو نشاط غريب في استدعاءات النظام. أما Prompt Worm فهو نص فحسب. فهو بالنسبة إلى المعالج بيانات عادية، وبالنسبة إلى النموذج اللغوي معنى. ولكي يُكتشف مثل هذه الدودة، ينبغي أن يمتلك نظام الحماية نفسه ذكاءً قادرًا على تحليل النوايا لا البايتات. نحن ندخل عصرًا يعتمد فيه أمن البيانات على مدى نقدية وكيل الذكاء الاصطناعي تجاه المعلومات الواردة، وقدرته على اكتشاف التلاعب في الكلام البشري.

وتزداد المشكلة تفاقمًا بسبب ميلنا إلى الأتمتة. فنحن نسعى إلى منح الوكلاء أكبر قدر ممكن من الحرية: فليقرأوا بريدنا، وليديروا حساباتنا المصرفية، وليُنسّقوا مسارات العمل. وفي تلك اللحظة يتحول الوكيل إلى ناشر فائق للعدوى. لقد انتهى رسميًا عهد «ربط GPT ببياناتك» ببساطة والاستمتاع بالتقدم. وعلى المطورين الآن بناء أنظمة تصفية معقدة متعددة الطبقات تعمل على المستوى الدلالي. إنه سباق تسلّح من نوع جديد، يحارب فيه رقيبٌ من الذكاء الاصطناعي مخترقًا من الذكاء الاصطناعي، وحتى الآن يتقدم المخترقون في النتيجة مستغلين استهتارنا.

الخلاصة: لم يعد أمن الذكاء الاصطناعي متعلقًا بإصلاح الأخطاء في الشيفرة، بل بنظافة المعاني والمرشِّحات الدلالية. وإذا كان وكيلكم قادرًا على التواصل مع العالم الخارجي، فهو بالفعل في منطقة الخطر. وقد حان الوقت للتفكير في إنشاء مناطق حجر رقمي للشبكات العصبية، قبل أن يشلّ وباء ديدان الـprompt المنظومات المؤسسية.