الشبكات العصبية تكذب بثقة: أين يخطئ AI ولماذا لا نلاحظ ذلك

أصبحت الشبكات العصبية أداة شائعة — لكنها تمتلك خاصية غادرة لا يفكر فيها الكثيرون. تعطي إجابات بنفس درجة الثقة: سواء كانت محقة أم مخطئة تماماً.

الثقة بدون فهم

لا تستطيع معظم نماذج اللغة أن تقول "لا أعرف" في اللحظة المناسبة. يتم تدريبها على تقديم إجابات متماسكة وصحيحة نحوياً — وتفعل ذلك حتى عندما لا توجد بيانات للإجابة أو تكون قديمة.

النموذج لا 'يفكر' بالمعنى التقليدي: فهو يتنبأ بالرمز التالي بناءً على الأنماط من بيانات التدريب. لهذا السبب تؤكد الذكاء الاصطناعي بثقة التاريخ الصحيح لحدث تاريخي واختلق مقالة علمية غير موجودة بأسماء مؤلفين حقيقيين. بالنسبة للنموذج، كلا الإجابتين مجرد استمرارية نصية محتملة إحصائياً. لا يوجد 'كاشف الحقيقة' الداخلي.

حيث تحدث الأخطاء بشكل متكرر

توجد عدة مناطق عالية المخاطر حيث تخطئ الشبكات العصبية بشكل متكرر وقابل للتنبؤ:

• حقائق مع تواريخ — كل شيء حدث بعد تاريخ تدريب النموذج إما أنه غائب أو مشوه
• الأرقام والحسابات — غالباً ما تقوم الشبكات العصبية 'بتخمين' العمليات الحسابية بدلاً من حسابها
• التفاصيل القانونية والطبية — تقوم النماذج بالتعميم دون الأخذ بعين الاعتبار الاختصاص القضائي والجرعات والتشريعات الحالية
• الروابط والمصادر — هلوسة معرّفات DOI وعناوين URL وأسماء الكتب هو الكلاسيكي: الروابط تبدو معقولة لكنها لا توجد
• المواضيع النادرة — كلما قل عدد البيانات حول موضوع ما في مجموعة التدريب، زادت احتمالية الاختلاق

المشكلة ليست أن الأخطاء تحدث. المشكلة هي أنها من الخارج غير قابلة للتمييز عن الإجابات الصحيحة.

لماذا الأخطاء الواثقة أسوأ من الواضحة

إذا كانت الشبكة العصبية مرتبكة بوضوح أو تقول 'لست متأكداً' — من السهل ملاحظة ذلك. لكن عندما ينتج النموذج نصاً واثقاً وصحيحاً نحوياً ومنطقياً سليماً، يدرك الدماغ أنه موثوق. نحن نثق فيما يبدو وكأنه إجابة خبير.

"يجيبون بنفس درجة الثقة سواء كانوا محقين أم يقولون هراءً كاملاً" —

وهذا هو بالضبط جذر المشكلة.

هذا خطير بشكل خاص في سياق العمل: المواصفات التقنية والتفاصيل القانونية والتوصيات الطبية والحسابات المالية. من السهل نسخ الخطأ المنسق بشكل جميل مباشرة إلى مستند أو عرض تقديمي — ولن يلاحظه أحد حتى اللحظة الأخيرة. مخاطرة إضافية: نعتاد على الثقة في الذكاء الاصطناعي في الأشياء الصغيرة ونحول هذه الثقة إلى قرارات مهمة. تدريجياً يحل عادة 'السؤال عن ChatGPT' محل التحقق من المصادر الأولية.

كيفية اكتشاف الأخطاء على الفور

عدة قواعد عملية تقلل من المخاطر:

• تحقق من الحقائق يدوياً — اطلب من النموذج روابط وافتحها بنفسك. إذا كان الرابط غير موجود — فهذا علم أحمر
• أعد صياغة السؤال بطريقة مختلفة — صيغ مختلفة من نفس السؤال تعطي أحياناً إجابات مختلفة، وهذا بحد ذاته يشير إلى عدم يقين النموذج
• استخدم نماذج مع البحث — Perplexity و ChatGPT مع Browsing أو Gemini يشيرون على الأقل إلى مصادر حقيقية
• لا تثق بالأرقام بدون التحقق — احسبها بنفسك أو استخدم حاسبة
• بالنسبة للمهام الحرجة، استخدم الذكاء الاصطناعي كمسودة — نقطة انطلاق وليس مصدراً نهائياً

ما يعنيه هذا

الذكاء الاصطناعي هو أداة قوية، لكنه ليس وحياً. فخها الرئيسي ليس أنه يخطئ: الجميع يخطئون. الفخ هو أنه لا يحذر من ذلك. حتى تتعلم النماذج أن تقول بصراحة "لست متأكداً هنا" — تبقى مسؤولية التحقق على الإنسان.