برامج الدردشة الذكية توزع معلومات مضللة بين الناخبين قبل الانتخابات الاسكتلندية

كشف بحث من مركز Demos التحليلي المستقل عن مشاكل حرجة في جودة المعلومات المقدمة من برامج الدردشة الذكية الشهيرة. قبل الانتخابات الاسكتلندية الأخيرة، قدمت ChatGPT و Gemini و Grok و Replika والخدمات الأخرى معلومات مضللة للناخبين في ثلث الحالات، حيث ابتكرت فضائح مختلقة وأسماء مرشحين غير موجودين. أثارت النتائج قلق المنظمين والمتخصصين في الأمن السيبراني.

ما كشفته Demos

أجرى باحثو Demos اختباراً منهجياً منظماً - حيث قدموا لخدمات الذكاء الاصطناعي أكثر من خمسين سؤالاً حول الانتخابات الاسكتلندية القادمة والإجراءات الانتخابية والمرشحين ونتائج الاقتراع. اتضحت النتائج مثيرة للقلق والمفاجآت بشكل معاً. بشكل عام، احتوت 34% من جميع الإجابات على معلومات مضللة.

لم تكن خدمات الذكاء الاصطناعي مخطئة ببساطة في التفاصيل - بل ابتكرت روايات مختلقة بالكامل. ابتكرت بعض برامج الدردشة فضائح سياسية لم توجد أبداً في الواقع. واخترعت أخرى أسماء مرشحين لم يشاركوا في الانتخابات قط.

وأشارت أخرى إلى تواريخ اقتراع خاطئة تماماً. الأخطر في هذه الأخطاء هو أن الذكاء الاصطناعي فعل كل هذا بثقة كاملة، دون أي تحفظات حول عدم يقينه أو الاعتراف بحدود معارفه. كان بإمكان المستخدم الذي يقرأ مثل هذه الإجابة أن يصدق تماماً الحقيقة المختلقة ويتخذ قراراً حاسماً بناءً عليها في مقصورة الاقتراع.

طلب قواعد جديدة

أصدرت لجنة الانتخابات البريطانية (Electoral Commission) طلباً رسمياً بعد نشر نتائج البحث: إدخال آليات قانونية جديدة للسيطرة على منصات الذكاء الاصطناعي. شددت اللجنة على مشكلة حرجة: الإطار القانوني الحالي في بريطانيا لا يتضمن أدوات كافية لمكافحة المعلومات المضللة التي تنشرها أنظمة الذكاء الاصطناعي.

«نرى مشكلة حقيقية: خدمات الذكاء الاصطناعي تصبح مصادر معلومات متزايدة التأثير للمواطنين، لكنها تظل عملياً بدون أي إشراف»، كما صرحت لجنة الانتخابات.

برأي المنظمين، من الضروري تنفيذ التدابير التالية:

• وضع علامات وتحذيرات إلزامية على إجابات الذكاء الاصطناعي حول خطر المعلومات المضللة
• المتطلبات التقنية لمقدمي الخدمات: تسجيل واضح وصريح لتاريخ تدريب النموذج والإشارة إلى حدود معارفه
• المسؤولية القانونية الكاملة للمنصات عن نشر المعلومات الكاذبة أثناء الانتخابات
• الشفافية التامة في عمليات تدريب النماذج - تحديد البيانات المستخدمة بالضبط

لماذا هذا خطير

تصبح المشكلة أكثر حدة مع نمو شعبية الذكاء الاصطناعي المتسارع. يستخدم الناس ChatGPT و Gemini والأنظمة المشابهة بالفعل مليارات المرات شهرياً للبحث عن المعلومات واستخراجها. لكن هذه النماذج تبقى غير موثوقة في الأسئلة التي تتطلب معلومات محدثة حول أحداث معينة وجارية. تم تدريب الذكاء الاصطناعي على بيانات حتى تاريخ محدد، لذا فإن معارفه حتماً تصبح قديمة بمرور الوقت. عندما لا يعرف النظام الإجابة الصحيحة، بدلاً من الاعتراف البسيط والصريح بعدم معرفته، غالباً ما يحدث ما يسمى «هلوسة» - اختراع حقائق معقولة الظاهر تبدو مقنعة جداً للمستخدم العادي. بالنسبة للانتخابات والمعلومات الحرجة الأخرى، يشكل هذا تهديداً مباشراً وحقيقياً للعملية الديمقراطية برمتها.

ماذا يعني هذا

أكد بحث Demos ما حذر منه متخصصو الأمن المعلوماتي منذ وقت طويل: برامج الدردشة بالذكاء الاصطناعي تشكل خطراً حقيقياً في سياق الانتخابات السياسية والقرارات العامة المهمة والحساسة. تصبح تنظيم منصات الذكاء الاصطناعي ليس مجرد مسألة المسؤولية التكنولوجية، بل مسألة حماية العمليات الديمقراطية ذاتها. بالنسبة للمستخدمين العاديين، الخلاصة بسيطة وواضحة: يجب عدم الاعتماد على الذكاء الاصطناعي كمصدر أساسي أو موثوق للمعلومات حول السياسة أو الانتخابات أو الأحداث الحرجة الأخرى. تحقق دائماً من المعلومات من خلال المصادر الرسمية والمنشورات الإخبارية ذات السمعة والموارد الحكومية المعتمدة.