غوغل تقدّم ملايين الإجابات الخاطئة بالذكاء الاصطناعي في البحث كل يوم، والمستخدمون يصدّقونها

يولّد مساعد الذكاء الاصطناعي في بحث غوغل، المدمج مباشرة في صفحة النتائج، ملايين الإجابات المتضمنة أخطاء كل يوم، ولا يتيح للمستخدم دائمًا أن يفهم أين قد يكون مخطئًا بالتحديد. وتظهر الأخطاء في المعلومات في نحو إجابة واحدة من كل عشر، وهذه ليست أعطالًا عشوائية، بل مشكلة منهجية بحجم المنتج البحثي بأكمله.

ما الذي حدث

الحديث هنا ليس عن حالات طريفة نادرة، بل عن سيل من الإجابات يراها الناس في أعلى صفحة البحث ويتعاملون معها كخلاصة جاهزة للاستعلام. من الناحية الشكلية، يحصل المستخدم على ملخص مريح بدلًا من قائمة روابط، لكن مع الراحة يأتي خطر جديد: فالخطأ لم يعد مختبئًا في أحد المواقع العشرة، بل صار في إجابة قصيرة واثقة تبدو كأنها حصيلة تحقق جرى بالفعل.

ويكتسب حجم المشكلة أهمية خاصة بسبب الحجم الهائل لاستعلامات البحث في غوغل. فحتى لو بدت نسبة الأخطاء «عشرة بالمئة فقط»، فإنها بالأرقام المطلقة تتحول إلى ملايين الإجابات الخاطئة أو غير الدقيقة يوميًا. ويفاقم المشكلة أن هذه الإجابات لا يرافقها دائمًا تنبيه صريح إلى أنها مشكوك فيها أو ناقصة، ولذلك كثيرًا ما لا يرى المستخدم سببًا لإعادة التحقق من النتيجة.

لماذا يصدّق الناس

كان البحث القديم يعلّم الإنسان مقارنة المصادر: أن يفتح عدة روابط، وينظر في التواريخ، ويقابل بين الروايات، ثم يستخلص النتيجة بنفسه. أما المساعد التوليدي فيغيّر نمط السلوك. فهو يقدّم إجابة مجمَّعة فورًا، ويوفر الوقت، ويخلق انطباعًا بأن مرحلة التحقق قد أُنجزت. وبالنسبة إلى الجمهور الواسع، تبدو هذه واجهة أذكى وأوثق من نتائج البحث التقليدية.

ويعمل هنا أيضًا أثر الثقة بالعلامة التجارية. فإذا ظهرت الإجابة داخل غوغل، ينقل كثيرون تلقائيًا سمعة محرك البحث نفسه إليها. والمشكلة أن النموذج اللغوي قادر على أن يبدو واثقًا حتى حين يخطئ في التفاصيل، أو يخلط الوقائع، أو يمزج معلومات من سياقات مختلفة. وبذلك لا يرى المستخدم تردّدًا ولا فرضية، بل عبارة مصوغة بعناية يسهل أن يأخذها على أنها حقيقة.

ومشكلة أخرى هي ضغط حالة عدم اليقين. فنتائج البحث العادية تعرض روايات متنافسة وصياغات مختلفة، بينما يحوّلها الملخص المولَّد بالذكاء الاصطناعي إلى فقرة واحدة سلسة. ونادرًا ما يرى المستخدم أي الوقائع مؤكدة بشكل موثوق وأيها استكمله النموذج بالقياس. وحين لا تُفصل هذه الطبقة بصريًا، يبدو الخطأ مقنعًا مثل الجزء الصحيح تمامًا.

أين يكون الخطر أكبر

تصبح المشكلة أبرز في الاستعلامات التي تهم فيها الحداثة والدقة والسياق. وكلما قلّ هامش التعميم المتاح للنموذج، ارتفعت كلفة حتى الخطأ الصغير.

• الأخبار، حيث تتغير الأرقام والأحداث خلال اليوم
• التواريخ والإحصاءات والمسميات الوظيفية وغيرها من الوقائع القابلة للتحقق
• الأسئلة الطبية والقانونية والمالية، حيث تؤثر النصيحة في القرار
• مقارنة السلع والتعرفات والخدمات ذات الشروط سريعة التغير
• المواضيع المتخصصة التي لا توجد عنها مصادر كافية عالية الجودة ومتسقة

والقاعدة البسيطة للمستخدم هنا: ينبغي التعامل مع إجابة الذكاء الاصطناعي في البحث بوصفها مسودة، لا نسخة نهائية. وإذا كان السؤال يؤثر في المال أو الصحة أو المستندات أو الدراسة أو قرارات العمل، فلا بد من فتح المصادر الأصلية، ومطابقة التواريخ، ومقارنة عدة منشورات مستقلة ولو على عجل. وإلا بدأت الراحة تعمل ضد الدقة.

ماذا يعني ذلك

تُظهر قصة غوغل المفاضلة الأساسية في البحث التوليدي: كلما كانت الخدمة أسرع في تقديم إجابة جاهزة، زادت أهمية الشفافية بشأن حدودها. وإذا كانت إجابة واحدة من كل عشر تحتوي فعلًا على خطأ في المعلومات، فإن السباق على الراحة لا يصطدم بسرعة النموذج، بل بآليات التحقق، وبالتحذيرات الواضحة، وبعادة المستخدم في إعادة التدقيق في ما يبدو مقنعًا أكثر من اللازم.