قام مطور بإدراج حقن أوامر مخفية في jqwik لتخريب مولدات الكود الآلية

قام مطور jqwik - مكتبة جافا الشهيرة للاختبار القائم على الخصائص - بإدراج حقن أوامر مخفية فيها. تجبر هذه التعليمات مولدات الأكواد الآلية على حذف جميع مخرجات التطبيق عند محاولة استخدام الكود.

لماذا jqwik بالذات

يشعر منشئ المكتبة بعدم الرضا من الاعتماد المتزايد للمطورين على مساعدي الذكاء الاصطناعي. يطلق عليهم 'مطوري الإحساس' - متخصصين يعتمدون على توليد الأكواد عبر الذكاء الاصطناعي بدلاً من الفهم العميق للعمارة والتكنولوجيات. jqwik ليست مجرد أداة بسيطة. إنها أداة للاختبار القائم على الخصائص حيث تحدد خصائص النظام والمكتبة تبحث عن أمثلة تنتهك هذه الخصائص. تتطلب فهماً للمفهوم وقدرة على صياغة الحدود الشرطية والعمل مع منتجات البيانات.

لكن بدلاً من قراءة الوثائق، يطلب العديد من المطورين من ChatGPT أو Claude. التعليمات المضمنة هي شكل من أشكال التخريب. إذا كنت كسولاً جداً لفهم الأداة، فليحذف المخرجات. ربما هذا سيجبرك على قراءة الوثائق.

كيف تعمل التعليمات المخفية

التقنية بسيطة: أضاف المطور أسطراً في التعليقات أو في نص jqwik تُقرأ كتعليمات لنماذج اللغات الكبيرة. عندما يحلل مساعد الذكاء الاصطناعي الكود المصدري للمكتبة، يرى هذه الأسطر كجزء من السياق ويضمنها في تحليله.

• يطلب المطور من الذكاء الاصطناعي: 'كيفية استخدام jqwik للاختبار؟' • يبحث الذكاء الاصطناعي عن أمثلة في الكود المصدري للمكتبة • يواجه تعليمات مخفية حول حذف المخرجات • يتضمن هذه المنطق في الكود المقترح

النتيجة: الكود المولّد صحيح، لكن جميع نتائج التنفيذ محذوفة. الاختبار لا يظهر النتائج والبرنامج يبدو غير عامل. يعمل هذا لأن نماذج الذكاء الاصطناعي الحديثة لا تفرق بين التعليقات والكود الوظيفي - فهي ترى كل شيء كسياق.

نقاط ضعف على مستوى الأداة

يوضح هذا الحادث هشاشة أمان مولدات الأكواد الآلية. إذا أدرج مهاجم حقن أوامر في مكتبة شهيرة، يمكنه تعليم الذكاء الاصطناعي بتوليد أكواد تحتوي على ثغرات أمنية - والمطور قد لا يلاحظ ذلك.

"هذه نقطة ضعف على مستوى أداة التطوير وليست مجرد خلل في الكود"

أظهر الباحثون أنه يمكن إدراج تعليمات مخفية في الكود المصدري والوثائق وحتى أسماء المتغيرات. تتبع نماذج الذكاء الاصطناعي هذه التعليمات رائية كل شيء كسياق. الهجمات المحتملة تشمل: إدراج حقن SQL وسرقة البيانات وتسجيلها على خادم المهاجم وتجاوز فحوصات الأمان.

ما معنى هذا

للمطورين: لا يمكن الثقة العمياء بالأكواد من مساعدي الذكاء الاصطناعي. مراجعة الكود تبقى حاسمة بغض النظر عن المصدر.

لمنشئي أدوات الذكاء الاصطناعي: إشارة عاجلة لتطوير حماية ضد حقن الأوامر في سياق الكود.

للنظام البيئي: المكتبات الشهيرة يمكن أن تستخدم الآن للهجوم على أدوات الذكاء الاصطناعي.