بحث Google ينهار أمام أوامر بسيطة: البحث المدعوم بالذكاء الاصطناعي لا يميّز بين الاستعلامات

كشفت Google في مؤتمر I/O 2026 عن محرك بحث أُعيد تصميمه جذريًا وبات يعتمد على نواة ذكاء اصطناعي. فبدلًا من الكلمات المفتاحية التقليدية، يُفترض أن يفهم البحث الجديد نوايا المستخدم على نحو أفضل. غير أن النظام تبيّن عمليًا أنه هشّ على نحو غير متوقع: فهو يتعامل مع بعض الكلمات العادية على أنها أوامر نظام.

كيف يمكن تعطيل البحث الجديد

ظهرت المشكلة بسرعة بعد إطلاق النسخة التجريبية. فعندما أدخل المستخدمون في شريط البحث كلمات بسيطة مثل «قف» أو «تجاهل»، فسّر النظام هذه الكلمات على أنها أوامر داخلية لا جزءًا من الاستعلام. والنتيجة: إما أن يتجمد البحث، وإما أن يعرض نتائج فارغة أو مشوّهة.

وظهرت على Reddit وفي مدونات المطورين سلاسل نقاش كاملة تضم أمثلة على ذلك. واتضح أن هذه الحساسية تمتد إلى كلمات أخرى مثل «أنهِ» و«ألغِ» و«رجوع». وتسببت كل كلمة منها في عطل بصورة مختلفة: من توقف البحث تمامًا إلى عرض نتائج لا صلة لها بالاستعلام إطلاقًا.

وهذا أمر لافت بشكل خاص، لأن Google لم تتوقع هذه المشكلة بوضوح. فإما أن المهندسين لم يختبروا البحث بما يكفي على صيغ متنوعة من اللغة الطبيعية، وإما أنهم بالغوا في تقدير قدرة الذكاء الاصطناعي على التمييز بين سياق الكلمات العادية والأوامر. وعادةً تستغرق مثل هذه الاختبارات أشهرًا.

لماذا يحدث ذلك

في الواقع، الوضع نموذجي للأنظمة الحديثة القائمة على النماذج اللغوية الكبيرة. يتدرّب الذكاء الاصطناعي على كمّ هائل من النصوص والأكواد والتعليمات. وأثناء التدريب يرى النموذج أمثلة كثيرة لأنظمة تؤدي فيها كلمات مثل «قف» أو «تجاهل» دور الأوامر فعلًا. وهكذا يصبح الحد الفاصل بين سياق المستخدم وتوجيهات النظام غير واضح.

وتزداد المشكلة تعقيدًا بسبب بنية البحث نفسها. فالبحث الجديد من Google يستخدم عدة طبقات من النماذج: يعالج نموذج أول الاستعلام لفهم النية، ثم ينفّذ نموذج ثانٍ البحث في الفهرس، ثم يتولى نموذج ثالث ترتيب النتائج. وإذا فسّر أحد هذه النماذج أمرًا ما تفسيرًا خاطئًا، فإن ذلك يؤثر في السلسلة بأكملها.

أبرز مسببات العطل:

• الخلط بين مدخلات المستخدم وأوامر النظام
• عدم الفصل الكافي بين السياقات في طبقات النماذج
• فرط الحساسية تجاه كلمات مفتاحية معينة
• غياب مرشّح موثوق على مستوى تحليل المدخلات
• نقص الأمثلة في مجموعة التدريب لهذه الحالات الحدّية (edge cases)

وقد ظهرت مشكلات مشابهة من قبل: ففي روبوتات الدردشة مثل ChatGPT قد تُفسد عبارة «انسَ التعليمات السابقة» منطق عمل النظام. وتُعرف هذه الثغرات باسم هجمات حقن الموجّهات (prompt injection).

ردّ Google وخطتها بعيدة المدى

تحركت الشركة بسرعة. ففي اليوم التالي لاكتشاف المشكلة على نطاق واسع، صدر تحديث قيل إنه أصلح الثغرات الرئيسية. وأعلنت Google أنها حسّنت تصفية المدخلات، وأضافت طبقة تحقق إضافية قبل أن يعالج نموذج الذكاء الاصطناعي الاستعلامات، ووسّعت قائمة الكلمات المحفِّزة التي تتطلب معالجة خاصة.

لكن سدّ مثل هذه الثغرات بالكامل صعب جدًا. فاللغة الطبيعية لا تملك حدًّا نحويًا صارمًا بين الأمر والسياق. وأي كلمة يمكن أن تكون هذا أو ذاك بحسب السياق. ووعدت Google بتحديث المرشّحات بانتظام مع ورود بيانات من المستخدمين عن حالات حدّية جديدة.

ويعمل المهندسون كذلك على حل أكثر جذرية، هو إعادة التفكير في بنية التفاعل بين طبقات النماذج. وفي الوقت نفسه تجري الشركة تدقيقًا لجميع أنظمة البحث القائمة بحثًا عن ثغرات مشابهة. واتضح أن بحث Google الكلاسيكي القديم عرضة لهذه المشكلة أيضًا، لكن بدرجة أقل، بسبب بنيته الأبسط وخلوّه من طبقات الذكاء الاصطناعي. أما البحث الجديد فهو أكثر تعقيدًا، ولذلك فهو أكثر هشاشة.

«هذه خطوة أولى على طريق البحث المثالي بالذكاء الاصطناعي، وليست المنتج النهائي» — هذا تقريبًا هو النهج الذي تُظهره

Google عبر تصرفاتها.

ماذا يعني ذلك

يُظهر الحادث أن حتى عملاقًا مثل Google قد يستهين بتعقيد التفاعل بين الإنسان والذكاء الاصطناعي. فأنظمة البحث الجديدة المزوّدة بذكاء اصطناعي قوي لا تحتاج إلى نماذج جيدة فحسب، بل إلى بنية أمان موثوقة أيضًا.

وبالنسبة إلى المستخدمين، هذا تذكير بأن ليس كل ما يُعلن عنه في المؤتمرات يتحول فورًا إلى منتج متكامل الوظائف. وبالنسبة إلى القطاع، هو إشارة إلى ضرورة أخذ حقن الموجّهات (prompt injection) والثغرات المشابهة في الاعتبار عند تصميم الأنظمة المبنية على النماذج اللغوية الكبيرة (LLM) منذ المرحلة الأولى. فهذه ليست مسألة إصلاح أخطاء في نهاية دورة التطوير، بل مهمة معمارية.