مارغريت أتوود جرّبت Claude ووصفت مشكلة AI بأنها «قمامة تدخل، قمامة تخرج»

مارغريت أتوود، مؤلفة "حكاية الخادمة" و"القاتلة العمياء"، جربت روبوت الدردشة الذكي Claude مرة واحدة بالضبط — وتوصلت إلى الاستنتاج بأن الذكاء الاصطناعي يعاني من مشكلة أساسية في جودة البيانات.

استفسار واحد — إجابة خاطئة

في مهرجان بابل الأدبي في بورتو، البرتغال، طرحت أتوود على Claude سؤالاً حول المسلسل البريطاني للدراما البوليسية "الأب براون". أحبط الناتج آمالها.

"أعطاني

Claude إجابة غير صحيحة — أو كذب. على الرغم من أنه لم يكن يعلم أنه يكذب، لأنه ليس إنساناً — إنه نموذج لغوي كبير"، قالت الكاتبة.

وفقاً لقولها، لقد "تصفحت" النموذج البيانات المتاحة بشكل سطحي فقط وأنتجت معلومات تمت صياغتها بثقة لكنها غير دقيقة من الناحية الواقعية. هذا، برأي أتوود، هو أهم ضعف في نماذج اللغة الحديثة: فهي لا تعرف ما لا تعرفه، ولا تحذر المستخدم من ذلك.

القمامة في المدخل — القمامة في المخرج

التشخيص الذي قدمته أتوود موجز: "garbage in, garbage out" — مبدأ معروف في البرمجة منذ الستينيات. إذا احتوت بيانات التدريب على أخطاء أو معلومات غير كاملة أو انحياز، فإن النتيجة ستكون غير موثوقة — بغض النظر عن مقدار قوة الحوسبة التي تدعمها.

تظل مشكلة الهلوسة — عندما تولد نماذج اللغة إجابات واثقة لكنها غير صحيحة — واحدة من أهم المشاكل التي لم يتم حلها في الصناعة برمتها:

• جميع النماذج الرئيسية — GPT و Claude و Gemini — ترتكب أخطاء بانتظام في التواريخ والأسماء والحقائق والاقتباسات
• يتم تدريب النماذج على نصوص من الإنترنت، حيث تكون المعلومات غير الدقيقة والقديمة أكثر وفرة مما يبدو
• كلما بدت الإجابة أكثر ثقة، كان من الصعب على المستخدم العادي التحقق منها
• في الطب والقانون والتعليم والصحافة، تخلق مثل هذه الأخطاء مخاطر حقيقية

لمكافحة ذلك، تقوم الشركات بربط البحث الخارجي وتطوير أنظمة التحقق من الحقائق وتدريب النماذج على الاعتراف بعدم اليقين. لكن لا يوجد حل شامل من أي أحد حتى الآن.

صوت الثقافة ضد التفاؤل التكنولوجي

ليست أتوود أول مؤلفة كبيرة تنتقد الذكاء الاصطناعي بصراحة. في عام 2023، وقع آلاف الكتاب على رسالة مفتوحة تطالب شركات الذكاء الاصطناعي بدفع المؤلفين مقابل استخدام نصوصهم في التدريب. قدم جورج آر آر مارتن وجون جريشام وآخرون دعاوى جماعية. المجتمع الأدبي ككل متشكك: يرى الكتاب الذكاء الاصطناعي كتهديد لعملهم ويعترضون على تدريب النماذج على كتبهم دون إذن وتعويض.

ذهبت أتوود أبعد من ذلك — لم تعبر فقط عن التضامن مع زملائها، بل اختبرت التكنولوجيا بنفسها. كانت النتيجة مثيرة للاهتمام: حتى شخص معتاد على العمل النقدي مع المصادر تلقى إجابة غير صحيحة من الذكاء الاصطناعي — واعترفت بها على الفور.

ماذا يعني هذا؟

تضع شركات الذكاء الاصطناعي منتجاتها كأدوات معلومات — للبحث والتحليل والتلخيص. لكن في هذا الدور بالذات تبقى غير موثوقة. بالنسبة للمستخدم العادي، قد تمر إجابة واحدة خاطئة دون ملاحظة. بالنسبة لكاتبة معتادة على العمل مع المصادر الأولية، تصبح حكماً على التكنولوجيا بأكملها.