Google تعرض يوميًا ملايين الإجابات الخاطئة من AI في محرك البحث، والمستخدمون يصدقونها

مساعد الذكاء الاصطناعي في محرك البحث Google، المدمج مباشرة في نتائج البحث، ينتج ملايين الإجابات الخاطئة يومياً ولا يساعد المستخدمين دائماً على فهم المكان الدقيق الذي قد يكون فيه مخطئاً. تظهر عدم الدقة الفعلية في حوالي واحدة من كل عشر إجابات — وهذا لم يعد خللاً عشوائياً بسيطاً، بل مشكلة منهجية على نطاق المنتج البحثي بأكمله.

ماذا حدث

لا يتعلق الأمر بفضول نادرة، بل بتدفق من الإجابات التي يراها الناس في أعلى نتائج البحث ويتصورونها كملخص جاهز للاستعلام. رسمياً، يحصل المستخدم على ملخص مريح بدلاً من قائمة روابط، لكن الراحة تأتي مع مخاطر جديدة: الخطأ لم يعد مختبئاً في أحد عشرة مواقع، بل يقع في إجابة قصيرة واثقة تبدو كنتيجة تحقق تم إجراؤه بالفعل.

الحجم مهم بشكل خاص بسبب الحجم الخالص لاستعلامات البحث على Google. حتى لو بدت نسبة الخطأ "مجرد" عشرة بالمائة، فإن هذا يترجم في الأرقام المطلقة إلى ملايين الإجابات الخاطئة أو غير الدقيقة يومياً. تتفاقم المشكلة بحقيقة أن هذه الإجابات لا تأتي دائماً مع تحذير صريح حول طبيعتها المشكوك فيها أو غير الكاملة، مما يعني أن المستخدمين غالباً ما لا يرون أسباباً للتحقق مرة أخرى من النتيجة.

لماذا يصدق الناس هذا

علمت البحث القديم الناس على مقارنة المصادر: فتح عدة روابط والتحقق من التواريخ ومقارنة الإصدارات والوصول إلى الاستنتاجات بأنفسهم. يغير المساعد التوليدي نموذج السلوك. فهو يقدم على الفور إجابة مجمعة ويوفر الوقت وينشئ الانطباع بأن مرحلة التحقق قد اكتملت بالفعل. بالنسبة للجمهور العام، يبدو هذا كواجهة أكثر ذكاءً وموثوقية من نتائج البحث العادية.

يلعب الثقة بالعلامة التجارية دوراً هنا أيضاً. إذا ظهرت الإجابة داخل Google، ينقل الكثيرون تلقائياً سمعة محرك البحث إليها. المشكلة أن نماذج اللغة تعرف كيفية الصوت بثقة حتى عندما تخطئ في التفاصيل أو تخلط الحقائق أو تمزج المعلومات من سياقات مختلفة. نتيجة لذلك، لا يرى المستخدمون عدم يقين أو فرضية، بل تصريح مُصِيغ بعناية يسهل قبوله كحقيقة.

مشكلة أخرى هي ضغط عدم التحديد. يعرض البحث العادي إصدارات متنافسة وصياغات مختلفة، بينما يحول ملخص الذكاء الاصطناعي هذه إلى فقرة واحدة سلسة. نادراً ما يرى المستخدمون أي الحقائق مؤكدة بشكل موثوق وأيها تم استقراؤها بواسطة النموذج بالقياس. عندما لا يتم فصل هذه الطبقة بصرياً، يبدو الخطأ مقنعاً مثل الجزء الصحيح.

حيث تكون المخاطر أعلى

تصبح المشكلة أكثر وضوحاً في الاستعلامات حيث تكون الحداثة والدقة والسياق مهمة. كلما قل حق النموذج في التعميم، كلما أصبح الخطأ الصغير أكثر كلفة.

• الأخبار، حيث تتغير الأرقام والأحداث على مدار اليوم
• التواريخ والإحصائيات وألقاب الوظائف والحقائق القابلة للتحقق الأخرى
• الأسئلة الطبية والقانونية والمالية حيث تؤثر النصيحة على القرارات
• مقارنة السلع والتعريفات والخدمات ذات الشروط سريعة التغير
• الموضوعات المتخصصة التي لا توجد فيها سوى عدد قليل من المصادر عالية الجودة والموحدة

بالنسبة للمستخدمين، هذا يعني قاعدة بسيطة: تعامل مع إجابات الذكاء الاصطناعي في البحث كمسودة وليس كنسخة نهائية. إذا كان السؤال يؤثر على المال أو الصحة أو المستندات أو التعليم أو قرارات العمل، فعليك فحص المصادر الأولية والتحقق من التواريخ ومقارنة عدة منشورات مستقلة على الأقل. وإلا، ستبدأ الراحة في العمل ضد الدقة.

ماذا يعني هذا

قصة Google تكشف عن المقايضة الرئيسية في البحث التوليدي: كلما أسرع الخدمة في تقديم إجابة جاهزة، كانت الشفافية حول قيودها أكثر أهمية. إذا كانت فعلاً كل إجابة عاشرة تحتوي على خطأ واقعي، فإن السعي نحو الراحة لا يتعلق بسرعة النموذج بل بآليات التحقق والتحذيرات الواضحة وعادة المستخدم في إعادة التحقق مما يبدو مقنعاً جداً.