ثغرة في Google AI Overviews: كيف تتحول إجابات الذكاء الاصطناعي إلى أداة بيد المحتالين

ثغرة في Google AI Overviews: كيف تتحول إجابات الذكاء الاصطناعي إلى أداة بيد المحتالين

كشفت اكتشافات حديثة عن ثغرة مقلقة في ميزة Google AI Overviews، المصمّمة لتزويد المستخدمين بإجابات موجزة ودقيقة عن استفساراتهم مباشرة في نتائج البحث. وبدلًا من رفع كفاءة البحث كما كان متوقعًا، تبيّن أن هذه التقنية يمكن أن يستغلها المهاجمون لإدخال معلومات كاذبة وتوجيه المستخدمين إلى مواقع تصيّد احتيالي. وتتجاوز هذه المشكلة الأخطاء المعتادة التي تقع فيها الشبكات العصبية، إذ تتمثل في هجمات مقصودة تستهدف المستخدمين غير المطّلعين.

تعتمد ميزة AI Overviews، المدمجة في محرك بحث Google، على نماذج لغوية كبيرة لتحليل صفحات الويب وصياغة إجابة مجمَّعة عن استعلام البحث. وقد صُمّمت في الأصل لتسريع الحصول على المعلومات، لكنها باتت اليوم هدفًا للتلاعب. ويفيد خبراء الأمن السيبراني بأن المحتالين يستخدمون بنشاط أساليب تحسين محركات البحث (SEO) لضمان ظهور محتوى ضار أو مضلِّل في إجابات الذكاء الاصطناعي هذه. وقد يتراوح ذلك بين توصيات طبية كاذبة وعروض لمخططات مالية مشبوهة، بما في ذلك روابط إلى مواقع مزيّفة هدفها سرقة البيانات الشخصية أو الأموال.

ويُظهر التعمق في المشكلة أن المهاجمين يستغلون نقاط ضعف محددة في طريقة معالجة AI Overviews للمعلومات القادمة من موارد ويب مختلفة ودمجها. فهم يستطيعون إنشاء محتوى على المواقع أو التلاعب به بحيث يبدو موثوقًا في نظر خوارزميات Google. وحين تُكوّن AI Overview إجابتها، قد تُدرج روابط إلى هذه الصفحات المخترَقة عن غير قصد أو عن قصد. وعلى خلاف أخطاء الشبكات العصبية التقليدية، التي قد تنتج إجابات لا معنى لها أو غير دقيقة، يتعلق الأمر هنا بتضليل متعمّد للمستخدم بهدف تحقيق مكسب. وهذا ما يجعل الهجمات أكثر خطورة، لأنها تبدو جزءًا من نتائج بحث مشروعة.

قد تكون عواقب هذا التلاعب خطيرة للغاية. فالمستخدمون الذين يعتمدون على إجابات الذكاء الاصطناعي قد يتعرضون لخسائر مالية، أو يقعون ضحية سرقة بيانات شخصية، أو يتلقون نصائح طبية ضارة قد تعرّض صحتهم للخطر. ويحثّ الخبراء بشدة على توخّي اليقظة والتحقق دائمًا من المصادر الأصلية للمعلومات، خصوصًا عند التعامل مع العمليات المالية أو الاستثمارات أو التوصيات الطبية. ويُعدّ التشكيك في أي نصيحة يقدمها الذكاء الاصطناعي، والتحقق المتقاطع من المعلومات عبر موارد موثوقة ومعتمدة، من إجراءات الحيطة الحاسمة.

وتقول Google، إدراكًا منها لخطورة المشكلة، إنها تعمل بنشاط على تحسين خوارزمياتها لرصد هذا النوع من المحتوى الضار وتصفيته. غير أن الطبيعة المتغيرة للتهديدات السيبرانية، وصعوبة معالجة كميات هائلة من المعلومات، تُبقيان خطر مواجهة التلاعب في نتائج البحث مرتفعًا، لا سيما في سياق ميزات الذكاء الاصطناعي الجديدة. وينبغي للمستخدمين أن يبقوا على اطلاع بالمخاطر المحتملة، وأن يطبّقوا مبادئ النظافة الرقمية لحماية أنفسهم من الاحتيال عبر الإنترنت.