70% من المطورين يعلمون أن الذكاء الاصطناعي يكتب أكوادًا معيبة — ومع ذلك ينشرونها في الإنتاج
70% من المطورين يعتقدون أن الذكاء الاصطناعي ينشئ أكوادًا ضعيفة تحتوي على ثغرات وأخطاء منطقية. ومع ذلك، ينشر 30% منهم الكود في الإنتاج — دون مراجعة أو تحليل ثابت. يذكر المؤلف من PVS-Studio: هذا ليس جديدًا، بل نتيجة للتوقعات المبالغ فيها. الثقة في توليد الأكواد بالذكاء الاصطناعي مرتفعة جدًا، بينما عمليات التطوير غير جاهزة لذلك.
معالج بواسطة الذكاء الاصطناعي من Habr AI؛ بتحرير Hamidun News
70% من المطورين يعرفون أن الذكاء الاصطناعي يكتب كوداً به تسريبات — ولا يزالون ينشرونه في الإنتاج
كشفت دراسة جديدة عن تناقض: 70% من المطورين يعتبرون كود الذكاء الاصطناعي غير آمن، لكن 30% منهم ما يزالون ينشرونه في الإنتاج — بدون فحوصات إضافية.
الأرقام بدون إثارة
غطت الاستطلاعات المطورين الذين يستخدمون بنشاط مساعدات الذكاء الاصطناعي — GitHub Copilot و ChatGPT و Claude وأدوات أخرى. الصورة ثابتة: معظمهم يعترفون بالمخاطر، لكن ضغط المواعيد النهائية وسراب الموثوقية يسيطران. يعترف 70% بأن الذكاء الاصطناعي ينتج باستمرار كوداً بهوة، أخطاء منطقية، أنماط أمان قديمة أو هندسة معمارية سيئة بشكل صارخ.
واحد من كل ثلاثة منهم ينشر هذا الكود في بيئات الإنتاج — بدون فحص، بدون تحليل ثابت، وأحياناً بدون اختبارات. هذه ليست حالات معزولة من الإهمال — هذا عرض لمشكلة منهجية. مؤلف عمود على Habr، خريج فريق PVS-Studio، يتحدث بشكل مباشر: بالنسبة له، هذا ليس اكتشافاً.
كان لديه محادثات حول التوقعات المتضخمة من أدوات الذكاء الاصطناعي قبل سنة. ما هو جديد هو أن الصناعة فجأة بدأت تناقش المشكلة كشيء غير متوقع.
لماذا يبدو كود الذكاء الاصطناعي موثوقاً
جذر المشكلة يكمن في طبيعة نماذج اللغة ذاتها. ينشئ الذكاء الاصطناعي الكود بثقة، بدون تحفظات. الصيغة صحيحة، البنية مألوفة، linter صامت. يرى المطور نتيجة "تبدو أنها تعمل" — وينخفض الإدراك الحرج. هذا ظاهرة نفسية مدروسة جيداً: كلما كانت المصدر أكثر سلطة، كلما كان الشك أضعف. ينتج الذكاء الاصطناعي النتائج فوراً — مما يخلق بالإضافة انطباعاً بأن "النموذج تحقق من كل شيء بالفعل". في الواقع، الأمر ليس كذلك.
"التوقعات مضخمة، وهناك ثقة مفرطة في الكود المُنتج — تماماً كما هو
الحال مع النصوص بشكل عام".
نموذج اللغة لا يعرف منطق العمل لنظام معين، لا يفهم ما البيانات التي ستأتي أثناء التشغيل الفعلي. يمكنه إعادة إنتاج أنماط ضعيفة — حقن SQL وقيم افتراضية غير آمنة والافتقار إلى التحقق من المدخلات — ببساطة لأنها ظهرت بشكل متكرر في corpus التدريب. الهلوسة في الكود ليست نادرة بل نتيجة طبيعية. يزداد الوضع سوءاً بسبب تقدم الأدوات ذاتها. يلاحظ المطورون التحسينات شهراً تلو الآخر ويميلون إلى الاستقراء: "اعتدت أن أرتكب أخطاء، الآن بشكل ملحوظ أفضل". لكن "أفضل" لا يساوي "آمن" — هذه الفجوة بالذات هي مصدر الحوادث.
الأسئلة التي كان يجب أن تُطرح في وقت أبكر
الآن تخضع الصناعة لإعادة نظر متأخرة. تطرح الفرق أسئلة كان يجب أن تُرفع عند نشر مساعدات الذكاء الاصطناعي لأول مرة:
- هل قائمة تحقق منفصلة لمراجعة الكود المُنتج بواسطة الذكاء الاصطناعي مطلوبة؟
- كيفية تكوين CI/CD للتقاط تلقائياً أخطاء المولد النموذجية؟
- كيف تعلم المبتدئين الذين اعتادوا بالفعل على الوثوق بالإكمال التلقائي؟
- ما الدور الذي يجب أن تلعبه المحللات الثابتة في خط أنابيب مع الذكاء الاصطناعي؟
- كيف تشرح للإدارة أن "المُنتج في 10 ثوانٍ" لا يساوي "جاهز للنشر"؟
تتعثر معظم الفرق للعثور على الإجابات من خلال التجربة والخطأ — أحياناً على حساب حوادث إنتاج حقيقية.
ماذا يعني هذا
المشكلة ليست مع الذكاء الاصطناعي كتكنولوجيا. المشكلة هي مع الموضع: تُباع الأدوات كبديل للمطور، لكنها تعمل مثل مسودة تتطلب التحقق. حتى تطور الفرق ثقافة مراجعة إلزامية لكود الذكاء الاصطناعي — ستزداد الإحصائيات سوءاً فقط. الحل قديم وممل: التحليل الثابت والمراجعة الإلزامية للكود وتغطية الاختبارات والفهم الواضح بأن سرعة الإنتاج لا تساوي جودة النتيجة. كانت الأدوات لهذا موجودة منذ فترة طويلة. السؤال هو في انضباط تطبيقها.
هل تحتاج إلى ذكاء اصطناعي يعمل داخل شركتك — وليس فقط في موجز الأخبار؟
أبني ذكاءً اصطناعياً جاهزاً للإنتاج للشركات — أنظمة CRM مخصّصة، أدوات داخلية، وكلاء مستقلون، أتمتة سير العمل. ملك لك، مصمّم وفق عمليتك، دون رسوم لكل مستخدم. من إعداد جمال خميدون، مدير المنتجات في AlpinaGPT (منصة ذكاء اصطناعي، أكثر من 6000 مستخدم).
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.