لماذا تفوّت سردية «من السهل خداع AI» النقطة الأهم

في أواخر فبراير 2026، نشرت بي بي سي تقريرًا مثيرًا للجدل حول كيفية إمكانية "اختراق" أنظمة الذكاء الاصطناعي التوليدية في دقائق معدودة. قدّم الصحافيون تجربة بسيطة: نشروا مقال مدونة يدعي الخبرة في موضوع متخصص، وسرعان ما اكتشفوا أن ChatGPT من OpenAI ونتائج البحث المدعومة بالذكاء الاصطناعي من Google بدأت تعيد إنتاج المعلومات من هذا المنشور. كانت العناوين مثيرة للانتباه وانتشرت القصة على الإنترنت. لكن The Next Web قررت أن تنظر إلى الوضع من زاوية أخرى — وطرحت سؤالاً محرجًا: ماذا لو كان كل هذا السرد عن "من السهل خداع الذكاء الاصطناعي" ببساطة يغيب عن الغرض الحقيقي؟

لفهم جوهر النقاش، تحتاج إلى فهم الآلية. نماذج اللغة الكبيرة الحديثة مثل GPT-4o أو Gemini لا تخزّن قاعدة معرفة ثابتة مثل الموسوعة. يتم تدريبها على مجموعات ضخمة من النصوص من الإنترنت، وفي حالة الوظائف المدعومة بالبحث، تقوم أيضًا بالوصول إلى محتوى الويب الطازج في الوقت الفعلي. عندما يتلقى نموذج مع تفعيل البحث سؤالاً حول موضوع نادر، فإنه يبحث عن مصادر ذات صلة، وإذا كان المادة الوحيدة المتاحة هي منشور المدونة الجديد هذا، فإنه يصبح أساس الإجابة. هذا ليس اختراقًا بالمعنى الكلاسيكي. هذا نتيجة لقرار معماري: يثق النموذج بما يجده على الويب، تماماً كما يفعل محرك البحث.

هنا يكمن الاختلاف الرئيسي بين السرد المثير والواقع. تسمية هذا بـ "الاختراق" تعني أن شخصاً ما تجاوز حماية النظام، أو وجد ثغرة في الكود، أو استغل خللاً تقنياً. في الواقع، حدث شيء أكثر عادية — وفي الوقت نفسه أكثر إثارة للقلق —: قام نظام الذكاء الاصطناعي بما تماماً تم تصميمه للقيام به — عثر على معلومات على الإنترنت ونقلها للمستخدم. المشكلة ليست أن النظام تم خداعه، بل أنه يفتقر إلى آلية موثوقة للتمييز بين المصادر الموثوقة والمصادر غير الموثوقة. هذا ليس خللاً يمكن إصلاحه بتحديث. هذه خاصية أساسية للتكنولوجيا في حالتها الحالية.

مع ذلك، سيكون من الخطأ تجاهل تجربة بي بي سي على أنها غير ذات أهمية. فهي تسلّط الضوء على مشكلة حقيقية وخطيرة — مشكلة الثقة بالمعلومات في عصر البحث المدعوم بالذكاء الاصطناعي. يُدرك ملايين المستخدمين بالفعل إجابات ChatGPT أو Google AI Overview كمصدر سلطوي دون التساؤل عن مصدر النموذج للحقيقة المحددة. إذا كان منشور مدونة واحد كافياً للتأثير على إجابات أكبر أنظمة الذكاء الاصطناعي في العالم حول موضوع متخصص، فهذا يفتح الباب أمام عمليات تلاعب مقصودة — من التسويق إلى السياسة. تحسين محركات البحث للمحركات التقليدية موجود منذ عقود، لكن "تحسين" المحتوى لنماذج الذكاء الاصطناعي هو مستوى مختلف نوعياً من التأثير، لأن المستخدم لا يرى قائمة روابط، بل إجابة واثقة وحاسمة.

بطبيعة الحال، تعمل OpenAI و Google على حلول. تستثمر كلا الشركتين في أنظمة التحقق من المصادر، وتصنيف مصداقية المصادر، وما يُسمى بـ "الربط بالواقع" — ربط إجابات النموذج بالبيانات المُتحقق منها. تطوّر Google، على وجه الخصوص، آليات التحقق المتبادل حيث يقارن النموذج المعلومات من عدة مصادر مستقلة قبل تضمينها في الإجابة. تقوم OpenAI بتجريب شفافية الاستشهادات، مما يسمح للمستخدمين برؤية المصادر التي تدعم الإجابة بالضبط. لكن في الوقت الحالي، هذه الآليات بعيدة عن الكمال، خاصة في المواضيع المتخصصة حيث يكون عدد المصادر المتاحة ضئيلاً.

هناك أيضاً سياق أوسع. يدور النقاش حول "اختراق الذكاء الاصطناعي" على خلفية تزايد الشك العام تجاه التقنيات التوليدية. كل عنوان من هذا القبيل يغذي صورة الذكاء الاصطناعي كلعبة غير موثوقة وسهلة الخداع. لكن الواقع أكثر تعقيداً. تساعد هذه الأنظمة نفسها ملايين الأشخاص يومياً على العثور على معلومات، وكتابة أكواد، وتحليل البيانات، وحل المشاكل التي كانت تتطلب ساعات من العمل سابقاً. مشكلة الثقة بالمصادر ليست حكماً بالإعدام على التكنولوجيا، بل تحدٍ يجب أن تحله الصناعة إذا أرادت أن يصبح البحث المدعوم بالذكاء الاصطناعي بديلاً كاملاً لمحركات البحث التقليدية.

في النهاية، قصة تجربة بي بي سي ليست حول كون الذكاء الاصطناعي غبياً أو ضعيفاً. بل هي حول كوننا في فترة انتقالية حيث تكون التكنولوجيا قوية بما يكفي لتشكيل الرأي العام، لكنها ليست ناضجة بعد بما يكفي للقيام بذلك بمسؤولية. السؤال الحقيقي ليس ما إذا كان بإمكانك خداع نموذج اللغة بمنشور مدونة. السؤال الحقيقي هو من يتحمل المسؤولية عن دقة الإجابات التي يقبلها مئات الملايين من الأشخاص على محمل الجد كل يوم. ولم تقدم OpenAI ولا Google إجابة مقنعة على هذا السؤال حتى الآن.