الشبكات العصبية تكذب بثقة: أين يخطئ الذكاء الاصطناعي ولماذا لا نلاحظ ذلك

أصبحت الشبكات العصبية أداة مألوفة، لكنّ لها خاصية خادعة لا يلتفت إليها كثيرون. فهي تقدّم إجاباتها بالثقة نفسها، سواء كانت مصيبة أم مخطئة تمامًا.

ثقة بلا فهم

معظم النماذج اللغوية لا تعرف كيف تقول «لا أعرف» في اللحظة المناسبة. فقد دُرِّبت على تقديم إجابات مترابطة وسليمة نحويًا، وهي تفعل ذلك حتى حين لا تتوفر بيانات للإجابة أو تكون البيانات قديمة. النموذج لا «يفكر» بالمعنى المعتاد، بل يتنبأ بالرمز (token) التالي استنادًا إلى أنماط في بيانات التدريب.

ولهذا يذكر الذكاء الاصطناعي بالثقة نفسها تاريخًا صحيحًا لحدث تاريخي، ويختلق ورقة علمية غير موجودة بأسماء مؤلفين حقيقيين. فالإجابتان بالنسبة إلى النموذج مجرد استكمالين محتملين إحصائيًا للنص. وليس في داخله «كاشف للحقيقة».

أين تتكرر الأخطاء أكثر

ثمة عدة مناطق عالية الخطورة تخطئ فيها الشبكات العصبية كثيرًا وبصورة يمكن توقعها:

• الوقائع المرتبطة بالتواريخ — كل ما حدث بعد تاريخ تدريب النموذج إما غائب وإما محرَّف
• الأرقام والحسابات — كثيرًا ما «تخمّن» الشبكات العصبية نتيجة العمليات الحسابية بدل أن تحسبها
• التفاصيل القانونية والطبية — تعمّم النماذج دون مراعاة الولاية القضائية أو الجرعات أو حداثة التشريعات
• الروابط والمصادر — هلوسة معرّفات DOI أو عناوين URL أو عناوين الكتب مثال كلاسيكي: تبدو الروابط معقولة لكنها غير موجودة
• المواضيع النادرة — كلما قلّت البيانات عن موضوع ما في بيانات التدريب، زاد احتمال الاختلاق

المشكلة ليست في وقوع الأخطاء، بل في أنها تبدو من الخارج غير قابلة للتمييز عن الإجابات الصحيحة.

لماذا الخطأ الواثق أسوأ من الخطأ الواضح

إذا ارتبكت الشبكة العصبية بوضوح أو قالت «لست متأكدًا»، يسهل ملاحظة ذلك. أما حين يقدّم النموذج نصًا واثقًا سليمًا لغويًا ومنطقيًا في ظاهره، فإن الدماغ يتلقاه على أنه موثوق. نحن نثق بما يبدو إجابة خبير.

«إنها تجيب بالثقة نفسها حين تكون محقة وحين تتفوّه بهراء تام دون أن

يرفّ لها جفن» — وهنا جذر المشكلة.

ويزداد الخطر في سياق العمل: المواصفات التقنية، والتفاصيل القانونية، والتوصيات الطبية، والحسابات المالية. فالخطأ المنسَّق بعناية يسهل نسخه مباشرة إلى وثيقة أو عرض تقديمي، ولا يلاحظه أحد حتى اللحظة الأخيرة.

وثمة خطر إضافي: نعتاد الوثوق بالذكاء الاصطناعي في الأمور الصغيرة، ثم ننقل هذه الثقة إلى قرارات مهمة. وعادة «اسأل ChatGPT» تحلّ تدريجيًا محل مراجعة المصدر الأصلي.

كيف تكشف الأخطاء

بضع قواعد عملية تقلّل المخاطر:

• تحقق من الوقائع يدويًا — اطلب من النموذج روابط وافتحها بنفسك. إذا كان الرابط غير موجود فهذه علامة تحذير حمراء
• أعد طرح السؤال بصياغة مختلفة — اختلاف صياغة السؤال نفسه يعطي أحيانًا إجابات مختلفة، وهذا بحد ذاته إشارة إلى عدم يقين النموذج
• استخدم نماذج مزوَّدة بالبحث — Perplexity وChatGPT مع Browsing وGemini تشير على الأقل إلى مصادر حقيقية
• لا تثق بالأرقام دون تحقق — احسب بنفسك أو استخدم آلة حاسبة
• في المهام الحرجة استخدم الذكاء الاصطناعي كمسودة — نقطة انطلاق لا مصدرًا نهائيًا

ماذا يعني ذلك

الذكاء الاصطناعي أداة قوية، لكنه ليس عرّافًا. وفخّه الرئيسي ليس أنه يخطئ، فالجميع يخطئ. الفخ أنه لا يحذّر من ذلك. وإلى أن تتعلم النماذج أن تقول بصدق «لست متأكدًا هنا»، تبقى مسؤولية التحقق على عاتق الإنسان.