تبدأ 23 نوفمبرالدفعة المباشرة 3 من Vibe Coding ووكلاء الذكاء الاصطناعي: 3 أسابيع و9 جلسات حيةالدفعة 3 (23.11) →
إصدارتحليل · على الرادارHabr AI→ المصدر

لماذا تصبح نماذج OpenAI وGoogle وAnthropic أكثر إقناعًا لكنها تخطئ أكثر

تبدو نماذج الاستدلال (reasoning) لدى المختبرات الكبرى أكثر ذكاءً، لكن ذلك لا يجعلها أدق. فـ OpenAI وGoogle وAnthropic تزيد الحوسبة أثناء توليد الإجابة لتقليل الأخطاء، غير أن الأثر الجانبي معاكس: تقل الأخطاء السطحية، بينما تصبح الهلوسات العميقة أكثر إقناعًا. والمشكلة أن الإجابة المترابطة صارت تخفي في كثير من الأحيان خطأً بنيويًا. وإذا استمر هذا الاتجاه، فلن تكون الغلبة لأكبر أنظمة الذكاء الاصطناعي، بل لأكثرها موثوقية.

معالج بواسطة الذكاء الاصطناعي من Habr AI؛ بتحرير Hamidun News
لماذا تصبح نماذج OpenAI وGoogle وAnthropic أكثر إقناعًا لكنها تخطئ أكثر
المصدر: Habr AI. كولاج: Hamidun News.
استمع للمقال

المشكلة الرئيسية لدى أكبر مختبرات الذكاء الاصطناعي اليوم ليست أن نماذجها تبدو غير مقنعة بما يكفي، بل أن أخطاء من مستوى أعلى تختبئ بشكل متزايد خلف أسلوب عرض واثق. فمنذ عامين تحاول OpenAI وGoogle وAnthropic معالجة ذلك بزيادة الحوسبة أثناء توليد الإجابة: تضيف سلاسل استدلال، وبحثًا عبر عدة خيارات، ومراجعة ذاتية، وعددًا أكبر من الرموز (tokens) لكل طلب. وتبدو هذه الخطوات من الخارج تقدمًا. لكن إذا لم تصبح النموذج الأساسي أدق، فإن «التفكير» الإضافي لا يفعل سوى جعل أوهامه أكثر تماسكًا ومعقولية.

فكرة توسيع نطاق الاستدلال (inference) تبدو منطقية. فإذا مُنح النموذج وقتًا أطول وخطوات أكثر لحل المسألة، يُفترض أن يخطئ أقل. وعمليًا، أزال هذا النهج فعلًا جزءًا من الأخطاء السطحية: أخطاء واقعية فادحة أقل، وإجابات أقل تنهار عند أول فحص، وإخفاقات أقل في العروض التوضيحية. ولهذا تترك نماذج الاستدلال انطباعًا قويًا: فهي تتحدث بتسلسل أفضل، وتنظّم إجاباتها بشكل أحسن، وتجيد محاكاة عملية تحليل دقيقة. غير أن المشكلة أن تماسك النص ليس هو نفسه صحة الاستنتاج.

ويظهر الفرق بوضوح بين الهلوسات البسيطة والعميقة. فالهلوسة البسيطة هي تاريخ مختلق، أو اسم مخلوط، أو رابط غير موجود، ويمكن اكتشافها بسرعة. أما الخطأ البنيوي العميق فأخطر: يأخذ النموذج مقدمة خاطئة، ويبني عليها سلسلة منطقية طويلة، ويضيف نبرة واثقة، ثم يقدّم إجابة متكاملة ومقنعة. فلا يرى المستخدم فوضى، بل باطلًا منسّقًا بعناية. وفي مهام مثل التحليل وإعداد الوثائق والبرمجة والطب والاستشارات القانونية، يكون هذا النوع من الأخطاء أشد خطرًا بكثير من الزلة العشوائية العادية.

وتبدو الأرقام مقلقة أيضًا. ففي إحدى المقارنات الأخيرة لنماذج OpenAI الكبيرة، ظهر على معيار SimpleQA مؤشر هلوسة يقارب 50%. وإذا كان كل رد ثانٍ على الأسئلة الواقعية البسيطة خاطئًا أو مختلقًا، فهذا ليس عيبًا تجميليًا، بل ثغرة منهجية. صحيح أن أي معيار اختبار محدود: فكثير من النتائج يتوقف على صياغة الأسئلة ومنهجية التقييم والإصدار المحدد من النموذج. لكن الاتجاه نفسه ذو دلالة. فالإصدارات تصبح أكثر فصاحة وأكثر كلفة في الحوسبة، بينما لا ترتفع الموثوقية العميقة بالوتيرة نفسها، بل تبدو أحيانًا وكأنها تتراجع. وفي سيناريوهات الشركات، يكفي هذا لتتسلل الأخطاء إلى عرض تقديمي أو تقرير أو قاعدة شيفرة دون أن يلاحظها أحد.

وقد يكمن السبب في النهج ذاته. فالحوسبة الإضافية في مرحلة الاستدلال لا تخلق معرفة جديدة ولا تصلح نقاط الضعف في بيانات التدريب. إنها فقط تجعل النموذج يبحث عن الإجابة وقتًا أطول داخل فضاء التمثيلات الموجود أصلًا. فإذا كانت صورة العالم لدى النموذج مشوهة، فلن تقوده سلسلة استدلال طويلة بالضرورة إلى الحقيقة. بل قد تعزز أثر التأكيد الذاتي: يعيد النموذج فحص الفرضية الخاطئة نفسها عدة مرات بصياغات مختلفة، فيزيد الخطأ إقناعًا.

والنتيجة مفارقة: الحوسبة الأكثر تقلل احتمال الخطأ الساذج، لكنها ترفع خطر الخطأ الجميل. وكلما بدا النظام أكثر ثقة، قلّ احتمال أن يتوقف المستخدم في الوقت المناسب ليتحقق من أساس الاستدلال.

ومن هنا يأتي استنتاج أوسع للسوق. فقد لا يأتي التهديد لقادة الذكاء الاصطناعي من «نموذج خارق» جديد فحسب، بل من فرق تنجح في بناء أنظمة أكثر موثوقية فوق النماذج القائمة: بنظام استرجاع (retrieval) عالي الجودة، وربط بالمصادر، ومعايرة للثقة، وفحوص صارمة للحقائق، وتقييم لا يقيس الطلاقة فقط بل الصدق أيضًا. ولن يكون الفائز من يولّد أطول إجابة، بل من يمكن الوثوق بإجابته في العمل الفعلي. وإذا واصلت الصناعة الخلط بين الإقناع والذكاء، فإن نافذة الفرصة أمام اللاعبين الجدد قد انفتحت بالفعل.

القصة
ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…