جنوب أفريقيا تسحب مشروع سياسة الذكاء الاصطناعي: مراجع علمية وهمية في الوثيقة

سحبت جنوب أفريقيا مشروع السياسة الوطنية للذكاء الاصطناعي بعد أن عُثر في الوثيقة على مراجع علمية وهمية. والمفارقة أن وثيقة مخصصة لتنظيم الذكاء الاصطناعي أُعدّ جزء منها على الأرجح بمساعدة الذكاء الاصطناعي التوليدي نفسه، ولم يتحقق أحد من النتيجة قبل النشر.

ماذا حدث

سحب وزير الاتصالات والتقنيات الرقمية في جنوب أفريقيا، سولي مالاتسي، المشروع في 27 أبريل بعد مراجعة داخلية. وجاء ذلك إثر تحقيق أجرته News24، إذ لاحظ صحفيون أن ست مراجع أكاديمية على الأقل من أصل 67 في الوثيقة التي تقع في 86 صفحة تشير إلى أعمال غير موجودة. وكانت أسماء المجلات حقيقية، أما المقالات نفسها فلا وجود لها.

وكان المشروع قد أقرّه مجلس الوزراء في 25 مارس، ونُشر في 10 أبريل في الجريدة الحكومية للنقاش العام، وكانت التعليقات عليه تُقبل حتى 10 يونيو. وبحسب مالاتسي، فإن التفسير الأرجح هو أن مراجع ولّدها الذكاء الاصطناعي دخلت النص دون تحقق كافٍ. ووعد الوزير باتخاذ إجراءات بحق المسؤولين عن الإعداد ومراقبة الجودة، لأن الخطأ لم يعد في مسودة، بل في وثيقة حكومية رسمية.

ماذا تضمّن المشروع

كانت الوثيقة مصمَّمة لتكون إطارًا لاستراتيجية الدولة في مجال الذكاء الاصطناعي. فقد اعتمدت نهجًا قائمًا على المخاطر، استلهمته جزئيًا من قانون الذكاء الاصطناعي الأوروبي (AI Act)، واقترحت نشر التنظيم على مراحل: من القواعد الأساسية والتوصيات إلى الاستراتيجيات القطاعية والمؤسسات المستقلة. كما تحدث النص عن منح وإعانات وحوافز ضريبية للقطاع الخاص.

وتضمّن المشروع عدة هياكل وآليات جديدة:

• لجنة وطنية للذكاء الاصطناعي
• مجلس لأخلاقيات الذكاء الاصطناعي وجهة تنظيمية مستقلة
• أمين مظالم للذكاء الاصطناعي
• معهد وطني لسلامة الذكاء الاصطناعي
• صندوق تأمين شامل للحالات المتنازع عليها في المسؤولية

وإضافة إلى ذلك، حدد المشروع الرسمي ستة مسارات استراتيجية: تنمية الكفاءات البشرية، والذكاء الاصطناعي من أجل النمو الشامل والتوظيف، والحوكمة المسؤولة، والذكاء الاصطناعي الأخلاقي والشامل، والحفاظ الثقافي والاندماج الدولي، وتوظيف الذكاء الاصطناعي مع إعطاء الأولوية لمصالح الإنسان.

وفي السياق الأفريقي، كان هذا إطارًا طموحًا: فقد أرادت الدولة بوضوح تحفيز السوق وبناء نموذجها الخاص للرقابة في الوقت نفسه، لا مجرد نسخ القواعد الأوروبية.

أين تعطّلت العملية

لم تكن المشكلة في المراجع المزيفة وحدها، بل في أن الوثيقة مرّت عبر عدة مستويات من الموافقة. فقد أكد محررو South African Journal of Philosophy وAI & Society وJournal of Ethics and Social Philosophy أن المقالات المذكورة لم تُنشر لديهم قط. أي أن الأمر لم يكن خطأً واحدًا ناتجًا عن إهمال، بل مصادر معقولة المظهر لكنها وهمية، بدت مقنعة بما يكفي لتجتاز المراجعة المكتبية.

«هذا إخفاق غير مقبول، ويبيّن لماذا تلزم رقابة بشرية صارمة عند استخدام

الذكاء الاصطناعي».

تُظهر هذه القصة نقطة ضعف نموذجية في النماذج التوليدية. فهي قادرة على إنتاج نص متماسك وواثق، وتنسيق المراجع بحيث تبدو قائمة أكاديمية سليمة. لكن النموذج غير مُلزَم بالتحقق من وجود المقالة فعلًا. وإذا استخدم الفريق الذكاء الاصطناعي مسودةً ثم لم يتحقق يدويًا من كل مرجع، فإن الخطأ يصل بسهولة إلى الوثيقة النهائية. وفي حالة الوثيقة الحكومية، يكون ثمن هذا التقصير أعلى من المعتاد: فلا يتضرر النص وحده، بل تتضرر الثقة بالمؤسسة التي تنوي تنظيم التقنية نفسها.

ماذا يعني ذلك

أعادت الفضيحة أجندة جنوب أفريقيا في مجال الذكاء الاصطناعي إلى الوراء: فسيتعيّن إعادة كتابة المشروع وطرحه مجددًا للتشاور وإثبات شرعيته من جديد. أما بالنسبة للدول والشركات الأخرى فالخلاصة بسيطة: يمكن استخدام الذكاء الاصطناعي في إعداد الوثائق، لكن المراجع والاقتباسات والمعطيات الوقائعية يجب التحقق منها يدويًا قبل النشر، لا بعد الفضيحة. وتُظهر قصة جنوب أفريقيا أن أشد مخاطر الذكاء الاصطناعي التوليدي إيلامًا ليست العطل المدوّي، بل الخطأ المصوغ بثقة والذي يُكتشف بعد فوات الأوان.