جنوب أفريقيا تسحب مشروع سياسة الذكاء الاصطناعي بعد اكتشاف مراجع علمية مختلقة

سحبت جنوب أفريقيا مشروع سياستها الوطنية بشأن الذكاء الاصطناعي بعد اكتشاف مراجع علمية مزيفة في الوثيقة. والسخرية هي أن الوثيقة الخاصة بتنظيم الذكاء الاصطناعي تم تحضيرها على الأرجح جزئياً باستخدام الذكاء الاصطناعي التوليدي — والنتيجة لم يتم التحقق منها قبل النشر.

ما الذي حدث

سحب وزير الاتصالات والتكنولوجيا الرقمية في جنوب أفريقيا سولي مالاتسي مشروع السياسة في 27 أبريل بعد مراجعة داخلية. كان السبب هو تحقيق أجرته News24: اكتشف الصحفيون أن ستة على الأقل من أصل 67 مرجعاً أكاديمياً في الوثيقة البالغة 86 صفحة تشير إلى أعمال غير موجودة. كانت أسماء الدوريات حقيقية، لكن المقالات نفسها لم تكن. مرّ المشروع مسبقاً عبر مجلس الوزراء في 25 مارس ونُشر في 10 أبريل في الجريدة الرسمية للحكومة للنقاش العام. كان من المقرر قبول التعليقات حتى 10 يونيو.

وفقاً لمالاتسي، الشرح الأكثر احتمالاً هو أن مراجع تم إنشاؤها بواسطة الذكاء الاصطناعي دخلت النص بدون التحقق المناسب. وعد الوزير باتخاذ إجراءات ضد المسؤولين عن الإعداد ومراقبة الجودة، لأن الخطأ أثر لا على مسودة، بل على وثيقة رسمية للحكومة.

ما الذي كان في المشروع

تم تصور الوثيقة كإطار عمل لاستراتيجية الدولة بشأن الذكاء الاصطناعي. كانت تعتمد على نهج موجه نحو المخاطر، مستوحاة جزئياً من قانون الذكاء الاصطناعي الأوروبي، واقترحت نشر التنظيم على مراحل: من القواعد والتوصيات الأساسية إلى الاستراتيجيات القطاعية والمؤسسات المنفصلة. تناول النص أيضاً المنح والإعانات والحوافز الضريبية للقطاع الخاص.

اتضمن المشروع عدة هياكل وآليات جديدة:

• اللجنة الوطنية للذكاء الاصطناعي
• مجلس أخلاقيات الذكاء الاصطناعي ومنظم منفصل
• أمين مظالم الذكاء الاصطناعي
• المعهد الوطني لسلامة الذكاء الاصطناعي
• صندوق التأمين الفائق للحالات المنازعة المتعلقة بالمسؤولية

بالإضافة إلى ذلك، حددت الوثيقة الرسمية ستة اتجاهات استراتيجية: تطوير القوى العاملة، والذكاء الاصطناعي من أجل النمو والتوظيف الشامليين، والحوكمة المسؤولة، والذكاء الاصطناعي الأخلاقي والشامل، والحفاظ الثقافي والتكامل الدولي، وتنفيذ الذكاء الاصطناعي مع إعطاء الأولوية للمصالح البشرية.

بالنسبة للسياق الأفريقي، كان هذا إطار طموح: أرادت الدولة بوضوح أن تحفز السوق في الوقت نفسه وتنشئ نموذج إشراف خاص بها، بدلاً من مجرد نسخ القواعل الأوروبية.

أين فشلت العملية

اتضح أن المشكلة لم تكن فقط المراجع المزيفة نفسها، بل أيضاً أن الوثيقة مرت عبر عدة مستويات من الموافقة. أكد محررو South African Journal of Philosophy و AI & Society و Journal of Ethics and Social Philosophy أن المقالات المشار إليها لم تُنشر أبداً في مجلاتهم. بعبارة أخرى، لم تكن هذه خطأ واحداً متهوراً، بل مصادر معقولة لكن مزيفة بدت مقنعة بما يكفي لتمرير مراجعة مجلس الوزراء.

"هذا فشل غير مقبول يوضح سبب الحاجة إلى إشراف بشري صارم عند استخدام

الذكاء الاصطناعي."

توضح هذه القصة نقطة الضعف النموذجية للنماذج التوليدية. إنها متفوقة في تجميع نص متماسك وواثق وتنسيق المراجع كما لو كنت تنظر إلى ببليوغرافيا أكاديمية عادية. لكن النموذج غير ملزم بالتحقق من وجود المقالة فعلاً. إذا استخدمت فريق الذكاء الاصطناعي كمسودة، ثم لم تتحقق يدوياً من كل مرجع، فإن الخطأ يصل بسهولة إلى الوثيقة النهائية. في حالة وثيقة حكومية، تكون تكلفة هذا الحذف أعلى من المعتاد: لا يكون النص فقط في الخطر، بل أيضاً الثقة في المؤسسة التي تقدم على تنظيم التكنولوجيا نفسها.

ما معنى هذا

أعادت الفضيحة برنامج جنوب أفريقيا للذكاء الاصطناعي إلى الوراء: سيتعين إعادة كتابة المشروع وإعادة تقديمه للمشاورة وإعادة شرعيته. بالنسبة للدول والشركات الأخرى، الاستنتاج بسيط: يمكن استخدام الذكاء الاصطناعي في إعداد الوثائق، لكن المراجع والاقتباسات والحقائق يجب التحقق منها يدوياً قبل النشر، وليس بعد فضيحة.

تُظهر قصة جنوب أفريقيا أن أخطر مخاطر الذكاء الاصطناعي التوليدي ليست فشلاً صارخاً، بل خطأ مُنسق بثقة اكتُشف في وقت متأخر جداً.