غوغل صدّقت الكاتب: قطّ يتحدث الكانتونية

أجرى الكاتب الأمريكي المعروف تشاك ويندج، مؤلف القصص المصورة والمدوّن الشهير، تجربة طريفة كشفت عن مواطن ضعف أنظمة البحث الحديثة المدعومة بالذكاء الاصطناعي. فقد نجح ويندج في إقناع ذكاء غوغل الاصطناعي بأن لديه قطًّا يُدعى «سير ميولينغتون فون بيسبريت»، يرتدي قبعة أسطوانية، ويتحدث قليلًا باللهجة الكانتونية من اللغة الصينية. وهذه المزحة التي تبدو بريئة تكشف عن مشكلات جدّية تتعلق بالثقة في المعلومات التي يقدّمها الذكاء الاصطناعي.

ولم يكشف ويندج عن الأساليب المحددة التي استخدمها لـ«تغذية» غوغل بهذه القصة المختلقة. لكن الأرجح أنه جمع بين تقنيات متعددة لتحسين محركات البحث (SEO) ونشر المعلومات عبر شبكات التواصل الاجتماعي ومنصات إلكترونية أخرى. ومن المهم إدراك أن محركات البحث الحديثة القائمة على الذكاء الاصطناعي لا تمتلك تفكيرًا نقديًا، ولا تستطيع التحقق من صحة المعلومات بنفسها. فهي تكتفي بتحليل كميات هائلة من البيانات واستخلاص الأنماط التي تبني عليها إجاباتها.

وتُعدّ هذه الحادثة مثالًا صارخًا على سهولة التلاعب بخوارزميات الذكاء الاصطناعي عبر تزويدها بمعلومات كاذبة أو مشوَّهة. فقد أنشأ ويندج في الواقع «فقاعة معلوماتية» حول قطّه الخيالي، وملأ الإنترنت بإشارات إلى قدراته الغريبة. وحين رصد ذكاء غوغل الاصطناعي هذه الإشارات، أخذها على محمل الجد وأدرجها في قاعدة معارفه.

وقد تكون عواقب مثل هذا التلاعب خطيرة للغاية. فإذا اعتمدت أنظمة الذكاء الاصطناعي على معلومات غير موثوقة، فقد يؤدي ذلك إلى انتشار الأخبار الزائفة والمعلومات المضلِّلة، وفي نهاية المطاف إلى تقويض الثقة بتقنيات الذكاء الاصطناعي عمومًا. تخيّلوا أن يتمكن أحدهم بالطريقة نفسها من إقناع الذكاء الاصطناعي بأن أدوية معينة تسبب آثارًا جانبية خطيرة، أو بأن أحداثًا تاريخية وقعت على نحو مختلف تمامًا. قد تكون النتائج كارثية.

وتدفعنا هذه الواقعة إلى التفكير في ضرورة تطوير آليات أكثر تقدمًا للتحقق من صحة المعلومات في أنظمة الذكاء الاصطناعي. وربما تلزم خوارزميات جديدة قادرة على تحليل السياق ورصد التناقضات والتدقيق في مصادر المعلومات. كما يلزم تدريب المستخدمين على تقييم المعلومات التي يحصلون عليها من الذكاء الاصطناعي تقييمًا نقديًا، وعدم التعامل معها بوصفها حقيقة مطلقة. وفي نهاية المطاف، تقع مسؤولية نشر المعلومات الموثوقة على عاتق جميع المشاركين في تبادل المعلومات، بمن فيهم مطورو الذكاء الاصطناعي والمستخدمون والصحفيون.

ويمكننا أن نتوقع في المستقبل ظهور أساليب أكثر تعقيدًا وتطورًا للتلاعب بأنظمة الذكاء الاصطناعي. ولذلك من الضروري جدًا أن نبدأ منذ الآن بوضع استراتيجيات فعّالة للحماية من المعلومات المضلِّلة، وضمان موثوقية المعلومات التي يقدمها الذكاء الاصطناعي ودقتها. وتجربة ويندج بمثابة جرس إنذار مقلق لا يجوز تجاهله.