خاصية البحث من Google تتعطل على الأوامر البسيطة: البحث المدعوم بالذكاء الاصطناعي لا يميز الاستعلامات

قدّمت جوجل محرك بحث معاد تصميمه بشكل جذري مع نواة ذكية في مؤتمر I/O 2026. بدلاً من الكلمات الرئيسية الكلاسيكية، يجب أن يفهم البحث الجديد نوايا المستخدم بشكل أفضل. ومع ذلك، في الممارسة العملية، تبيّن أن النظام ضعيف بشكل غير متوقع: فهو يفسّر بعض الكلمات العادية على أنها أوامر النظام.

كيفية كسر البحث الجديد

بدأت المشكلة تظهر بسرعة بعد إطلاق الإصدار التجريبي. عندما أدخل المستخدمون كلمات بسيطة مثل "توقف" أو "تجاهل" في شريط البحث، فسّرها النظام على أنها أوامر داخلية وليس كجزء من الاستعلام. النتيجة: إما أن يتوقف البحث أو يعيد نتائج فارغة أو مشوهة.

امتلأت مواقع Reddit ومدونات المطورين بخيوط تحتوي على أمثلة. اتضح أن الحساسية تمتد إلى كلمات أخرى مثل "إنهاء" و "إلغاء" و "للخلف". كل منها أثار أعطالاً بأشكال مختلفة: من توقف البحث الكامل إلى إرجاع نتائج غير ذات صلة على الإطلاق.

هذا غريب بشكل خاص لأن جوجل لم تتوقع مثل هذه المشكلة بوضوح. إما أن المهندسين لم يختبروا البحث بشكل كافٍ على اختلافات اللغة الطبيعية المختلفة، أو أنهم بالغوا في تقدير قدرة الذكاء الاصطناعي على التمييز بين السياق للكلمات العادية والأوامر. عادة ما تستغرق هذه الاختبارات أشهراً.

لماذا يحدث هذا

في الواقع، الحالة نموذجية للأنظمة الحديثة القائمة على نماذج اللغة الكبيرة. يتعلم الذكاء الاصطناعي من كمية ضخمة من النصوص والأكواد والتعليمات. أثناء التدريب، يرى النموذج العديد من الأمثلة على الأنظمة حيث تعمل كلمات مثل "توقف" أو "تجاهل" بالفعل كأوامر. يصبح الحد الفاصل بين سياق المستخدم والتوجيهات النظامية غير واضح. تتفاقم المشكلة بسبب معمارية البحث. يستخدم البحث الجديد من جوجل عدة طبقات من النماذج: أولاً تعالج نموذج واحدة الاستعلام لفهم النية، ثم تبحث أخرى في الفهرس، ثم تصنف ثالثة النتائج. إذا فسّرت إحدى هذه النماذج أمراً بشكل غير صحيح، فإن ذلك يؤثر على السلسلة بأكملها.

محفزات الفشل النموذجية:

• الخلط بين مدخلات المستخدم والأوامر النظامية
• الفصل غير الكافي للسياقات بين طبقات النماذج
• الحساسية المفرطة لكلمات رئيسية معينة
• عدم وجود مرشح موثوق على مستوى تحليل الإدخال
• نقص الأمثلة في مجموعة البيانات التدريبية لهذه الحالات الحدية

حدثت مشاكل مماثلة من قبل: في روبوتات الدردشة مثل ChatGPT، حيث يمكن للعبارة "نسيان التعليمات السابقة" أن تكسر منطق التشغيل. تُسمى هذه الثغرات الأمنية هجمات حقن المطالبات.

رد جوجل والخطة طويلة الأجل

استجابت الشركة بسرعة. في اليوم التالي لاكتشاف المشكلة على نطاق واسع، تم إطلاق تحديث ادعى أنه أصلح الثغرات الرئيسية. قالت جوجل إنها حسّنت تصفية الإدخال وأضافت طبقة تحقق إضافية قبل معالجة الاستعلامات بنماذج الذكاء الاصطناعي وسعّت قائمة الكلمات المحفزة التي تتطلب معالجة خاصة.

ومع ذلك، فإن إغلاق هذه الثغرات الأمنية بالكامل صعب جداً. اللغة الطبيعية لا توجد حدود بناء جملة صارمة بين الأمر والسياق. أي كلمة قد تكون إما واحدة أو الأخرى اعتماداً على السياق.

وعدت جوجل بتحديث المرشحات بانتظام مع وصول البيانات حول حالات حدية جديدة من المستخدمين. يعمل المهندسون أيضاً على حل أساسي أكثر — إعادة التفكير في معمارية التفاعل بين طبقات النماذج. في الوقت نفسه، تجري الشركة تدقيقاً لجميع أنظمة البحث الموجودة بحثاً عن ثغرات مماثلة.

اتضح أن بحث جوجل الكلاسيكي القديم يتعرض أيضاً لهذه المشكلة، لكن بدرجة أقل — بسبب المعمارية الأبسط وعدم وجود طبقات الذكاء الاصطناعي. البحث الجديد أكثر تعقيداً وبالتالي أكثر هشاشة.

"هذه خطوة أولى نحو البحث الذكي المثالي، وليست منتجاً نهائياً،" —

تقريباً هذا النهج تُظهره جوجل من خلال تصرفاتها.

ماذا يعني هذا

يُظهر الحادث أنه حتى عملاق مثل جوجل قد يقلل من تعقيد التفاعل بين الإنسان والذكاء الاصطناعي. تتطلب أنظمة البحث الجديدة ذات الذكاء الاصطناعي القوي ليس فقط نماذج جيدة بل أيضاً معمارية أمان موثوقة. بالنسبة للمستخدمين، هذا تذكير: ليست كل وعود المؤتمرات تصبح منتجات تعمل بشكل كامل على الفور. بالنسبة للصناعة، إنها إشارة إلى أن حقن المطالبات والثغرات الأمنية المماثلة يجب أن تؤخذ في الاعتبار عند تصميم الأنظمة مع نماذج اللغة الكبيرة في المرحلة الأولى جداً. هذا ليس تصحيحاً للأخطاء في نهاية دورة التطوير، بل هو مهمة معمارية.