مارغريت أتوود جرّبت Claude ووصفت مشكلة الذكاء الاصطناعي بعبارة «مدخلات سيئة — مخرجات سيئة»

استخدمت مارغريت أتوود، مؤلفة «حكاية الخادمة» و«القاتل الأعمى»، روبوت الدردشة Claude مرة واحدة فقط، وخرجت باستنتاج مفاده أن الذكاء الاصطناعي يعاني مشكلة جوهرية في جودة البيانات.

سؤال واحد — إجابة خاطئة

في مهرجان Babell الأدبي في مدينة بورتو (البرتغال)، روت أتوود أنها توجهت إلى Claude بسؤال عن المسلسل البريطاني البوليسي «الأب براون». وجاءت النتيجة مخيّبة لتوقعاتها.

«أعطاني

Claude إجابة خاطئة، أو كذب عليّ. مع ذلك، هو لم يكن يعرف أنه يكذب، لأنه ليس إنسانًا، بل نموذج لغوي كبير»، قالت الكاتبة.

وبحسب قولها، اكتفى النموذج بتصفّح البيانات المتاحة تصفحًا سطحيًا، ثم قدّم معلومات صيغت بثقة لكنها غير دقيقة في وقائعها. وترى أتوود أن هذا بالضبط هو نقطة الضعف الرئيسية في النماذج اللغوية الحالية: فهي لا تعرف ما لا تعرفه، ولا تنبّه المستخدم إلى ذلك.

مدخلات سيئة — مخرجات سيئة

تشخيص أتوود موجز: «garbage in, garbage out»، وهو مبدأ معروف في البرمجة منذ ستينيات القرن الماضي. فإذا احتوت بيانات التدريب على أخطاء أو معلومات ناقصة أو تحيّز، فستكون النتيجة غير موثوقة، مهما بلغت القدرات الحاسوبية التي تقف خلفها.

وتبقى مشكلة الهلوسة، أي حين تولّد النماذج اللغوية إجابات واثقة لكنها خاطئة، إحدى أبرز المشكلات المركزية التي لم تُحل بعد في القطاع كله:

• ترتكب جميع النماذج الكبرى، ومنها GPT وClaude وGemini، أخطاءً متكررة في التواريخ والأسماء والوقائع والاقتباسات
• تتدرب النماذج على نصوص من الإنترنت، حيث تفوق المعلومات غير الدقيقة والقديمة ما يظنه الناس بكثير
• كلما بدت الإجابة أكثر ثقة، صعب على المستخدم غير المتخصص التحقق منها
• في الطب والقانون والتعليم والصحافة، تشكّل هذه الأخطاء مخاطر حقيقية

ولمواجهة ذلك، تربط الشركات نماذجها بالبحث الخارجي، وتطوّر أنظمة للتحقق من الوقائع، وتدرّب النماذج على الإقرار بعدم اليقين. لكن لا أحد يملك حتى الآن حلًّا كاملًا.

صوت الثقافة في مواجهة التفاؤل التقني

أتوود ليست أول كاتبة كبيرة تنتقد الذكاء الاصطناعي علنًا. ففي عام 2023 وقّع آلاف الكتّاب رسالة مفتوحة تطالب شركات الذكاء الاصطناعي بدفع مقابل للمؤلفين عن استخدام نصوصهم في التدريب. وأقام جورج آر. آر. مارتن وجون غريشام وآخرون دعاوى قضائية جماعية.

والوسط الأدبي عمومًا متشكك: فالكتّاب يرون في الذكاء الاصطناعي تهديدًا لعملهم، ويعترضون على تدريب النماذج على كتبهم دون إذن أو مقابل.

وذهبت أتوود خطوة أبعد: فهي لم تكتفِ بإعلان تضامنها مع زملائها، بل اختبرت التقنية بنفسها. وكانت النتيجة دالّة: حتى شخص يجيد التعامل النقدي مع المصادر تلقّى من الذكاء الاصطناعي إجابة خاطئة، وتعرّف عليها فورًا.

ماذا يعني ذلك

تروّج شركات الذكاء الاصطناعي لمنتجاتها بوصفها أدوات للعمل مع المعلومات، من بحث وتحليل وتلخيص. لكنها في هذا الدور تحديدًا لا تزال غير موثوقة. فقد تمرّ إجابة خاطئة واحدة دون أن يلاحظها المستخدم العادي، أما بالنسبة إلى كاتبة اعتادت العمل مع المصادر الأولية، فتتحول إلى حكم على التقنية بأكملها.