التحقق من البرامج في عصر الذكاء الاصطناعي: لماذا تجعل الهلوسات التحقق من الكود أكثر أهمية

الذكاء الاصطناعي التوليدي أحيا حلماً قديماً لدى المبرمجين: ما عليك سوى صياغة مهمة — وستكتب الآلة الكود بنفسها. دراسة أكاديمية جديدة تعدّل هذا التفاؤل، دون إنكار التقدم الحقيقي: البرمجة تمثل فقط جزءاً صغيراً من هندسة البرمجيات، وأصعب أجزاؤها — المتطلبات والعمارة والتحقق — لا تزال من مسؤولية المهندسين.

لماذا الذكاء الاصطناعي لا يحل المشكلة الرئيسية

هندسة البرمجيات ليست مجرد كتابة الكود. تظهر استطلاعات الصناعة: يقضي المطورون من 20 إلى 30% من وقت عملهم على البرمجة المباشرة. والباقي يُصرف على جمع المتطلبات وتصميم العمارة والمراجعة والاختبار وإصلاح الأخطاء. مساعدات الذكاء الاصطناعي يمكنها توليد الدوال وشرح الكود غير المألوف، لكنها لا تستطيع إثبات صحة النظام ككل — هذه مهمة مختلفة جوهرياً.

المشكلة الرئيسية هي الهلوسات. يقترح الذكاء الاصطناعي بثقة كوداً يبدو معقولاً ويترجم ويجتاز الاختبارات الأساسية، لكنه يحتوي على أخطاء منطقية دقيقة. المكونات "الصحيحة تقريباً" المكدسة معاً تشكل نظاماً غير موثوق. جمع المؤلفون حوادث موثقة مع كود يولده الذكاء الاصطناعي في بيئة الإنتاج: من استشهادات قانونية غير صحيحة في برامج الدردشة الآلية إلى أخطاء في خوارزميات التوصيات الطبية. الأنماط متشابهة: كان النظام يعمل بشكل صحيح في معظم الحالات — حتى واجه حالة حدية.

التجربة مع AutoProof و Eiffel

لم يقتصر الباحثون على النظرية وأجروا تجربة ملموسة. تم إنشاء نظام إدارة المؤتمرات بمساعدة مساعد ذكاء اصطناعي بالاقتران مع AutoProof — محقق رسمي للغة Eiffel. الفرق الأساسي عن الاختبار: التحقق الرسمي يثبت الصحة لجميع المدخلات الممكنة، وليس فقط لمجموعة من الأمثلة المختارة بعناية.

تطلبت العملية انضباطاً متكررة صارماً:

• صياغة جزء صغير من المتطلبات كشروط مسبقة ولاحقة رسمية
• طلب من مساعد الذكاء الاصطناعي تنفيذ الكود المقابل
• تشغيل AutoProof والحصول على خطأ في التحقق أو تأكيد الصحة
• تصحيح المواصفات أو التنفيذ — وتكرار الدورة

الملاحظة الرئيسية: مساعد الذكاء الاصطناعي لم يحقق من الكود بشكل مستقل. ساعد في صياغة المواصفات وكتابة التنفيذ، بينما تحقق محقق رسمي مستقل من الصحة. هذا التقسيم للأدوار أساسي — وبحسب المؤلفين، هكذا ستكون تنظيم سلاسل الأدوات من الجيل التالي.

اتحاد الوكلاء كنموذج جديد

يقترح المؤلفون منظوراً جديداً على التطوير: لا مساعد ذكاء اصطناعي واحد، بل اتحاد من الوكلاء المتفاعلين مع مناطق واضحة من المسؤولية. أحدهما يولد الكود، والثاني يكتب الاختبارات، والثالث ينفذ التحقق الرسمي، والرابع يحلل حوادث الإنتاج. لا يتحمل أي وكيل المسؤولية الكاملة عن الصحة — هذه خاصية النظام ككل.

"الهلوسة كنوع من الفشل تجعل ضمانات الصحة أكثر أهمية، وليس أقل"، يؤكد المؤلفون.

يتطلب هذا النهج من المطورين فهم هندسة البرمجيات الكلاسيكية: المواصفات الرسمية والثوابت والعقود. الذكاء الاصطناعي لا يلغي هذه المعرفة — بل يجعل تطبيقها العملي أكثر إمكانية. المطور الذي يستطيع صياغة المتطلبات بدقة وقراءة نتائج المحقق يكون في موقع مفيد جوهرياً.

ما يعنيه هذا

الخلاصة التي توصل إليها المؤلفون حذرة وتفاؤلية. بالنسبة للتطوير اليومي، الذكاء الاصطناعي هو تكنولوجيا معادلة: يقترب المطور بدون خبرة من المطور ذي الخبرة، يُكتب الكود الروتيني بشكل أسرع، توجد الأخطاء الواضحة في وقت أبكر. بالنسبة للأنظمة الحرجة والتجارية، يصبح الذكاء الاصطناعي تكنولوجيا تضخيمية: يحصل المهندس ذو الخبرة على أداة قوية، لكن الدروس الكلاسيكية لهندسة البرمجيات تنطبق أكثر من أي وقت مضى. يصبح التحقق أكثر أهمية، وليس أقل — بالتحديد لأن الذكاء الاصطناعي يمكن أن يرتكب أخطاء بثقة وبشكل غير مرئي.