ИИ-агенты превзошли живых мошенников в социальной инженерии — международное исследование

أثبتت مجموعة دولية من العلماء أن وكلاء الذكاء الاصطناعي المُدرَّبين تحديداً على تقنيات الهندسة الاجتماعية يكتسبون ثقة ضحايا الاحتيال المحتملين بفاعلية أكبر من المحتالين الحقيقيين. وقد رصدت نتائج تجربة ضبطية خاضعة للسيطرة فئةً جديدة من التهديدات الصادرة عن النماذج المتقدمة للذكاء الاصطناعي — لا تقتصر على الجانب التقني فحسب، بل تمتد إلى الجانب النفسي أيضاً.

ما الذي فحصه الباحثون تحديداً؟

قارن مؤلفو الدراسة بين أداء المحتالين البشريين ووكلاء الذكاء الاصطناعي في مهمة واحدة: إقناع المحاور بالكشف عن بيانات سرية أو القيام بإجراء موجَّه يتعارض مع مصالحه الشخصية. وقد تلقّت أنظمة الذكاء الاصطناعي تدريباً متخصصاً في التقنيات الكلاسيكية للهندسة الاجتماعية — كخلق إحساس زائف بالإلحاح، والاستناد إلى السلطة، وانتحال شخصية معارف مقربين أو جهات رسمية.

جاءت النتيجة قاطعة: إذ تفوّق وكلاء الذكاء الاصطناعي بصورة منهجية على نظرائهم البشريين طوال فترة التجربة، وذلك وفق المقاييس الرئيسية للإقناع ومعدلات الإتمام الناجح لسيناريوهات الاحتيال.

لماذا يكون الذكاء الاصطناعي أكثر إقناعاً من المحتال البشري؟

يخلو وكيل الذكاء الاصطناعي من "الأخطاء" النمطية التي تفضح المحتال البشري في اللحظات الحرجة: فهو لا يشعر بالتوتر تحت الضغط، ولا يُحدث توقفات عشوائية، ولا يختلط عليه تفاصيل روايته المخترَعة، ولا يستجيب عاطفياً لمقاومة المحاور. يتكيّف النموذج مع ردود الضحية في الوقت الفعلي من حيث النبرة والإيقاع وطبيعة الحجج — وهي ميزة تنافسية لا يستطيع الإنسان جسدياً محاكاتها بالثبات ذاته.

«بدأت النماذج المتقدمة للذكاء الاصطناعي تشكّل خطراً لا من منظور قدرتها

على اختراق البنية التحتية الحاسوبية فحسب، بل من منظور تأثيرها على النفسية البشرية أيضاً»، يُقرّ مؤلفو الدراسة.

المضاعِف الرئيسي للتهديد هو قابلية التوسع. إذ يستطيع وكيل ذكاء اصطناعي واحد إجراء مئات المحادثات المستقلة بالتوازي، في حين يخضع المحتال البشري لقيود صارمة تتعلق بالوقت والانتباه. وهذا ما يجعل هجمات الذكاء الاصطناعي أقل تكلفة بكثير، وأوسع انتشاراً، وهو ما يزيد خطورتها — سهلة الاستنساخ: فإطلاق وكيل هندسة اجتماعية أبسط بكثير من تجنيد وتدريب مركز اتصال مؤلف من محتالين بشريين.

ماذا يعني هذا من الناحية العملية؟

تُغيّر نتائج الدراسة تقييم المخاطر في عدة محاور:

• تصبح حملات التصيد الاحتيالي مُخصَّصة — إذ يُكيّف وكيل الذكاء الاصطناعي كل رسالة لضحية بعينها استناداً إلى البيانات المتاحة للعموم
• يتمّ تشغيل الاحتيال الهاتفي آلياً على نطاق صناعي دون الحاجة إلى توظيف مشغّلين بشريين
• تتحول تطبيقات المراسلة المؤسسية إلى ناقل للهجوم عبر "زملاء" و"مديرين" مزيفين
• تصبح مخططات انتحال دعم البنوك أو الجهات الحكومية شبه مستحيلة التمييز عن التعاملات الحقيقية

يرصد الباحثون هشاشة بالغة في سياقات "الاتصال المتوقع": حين يترقّب شخص ما اتصالاً من مصرفه أو من إحدى الخدمات أو من صاحب العمل، يستغل وكيل الذكاء الاصطناعي هذا التوقع نقطةَ دخول — فينخفض مستوى اليقظة النقدية لدى المحاور انخفاضاً حاداً.

ما الذي يعنيه هذا

لم يعد التهديد الصادر عن الذكاء الاصطناعي تقنياً بحتاً. فإن كانت الحماية تقتصر في السابق على كلمات المرور وبرامج مكافحة الفيروسات والتصحيحات البرمجية، فإن المرحلة الراهنة تستلزم بالتوازي مع ذلك معايير جديدة للثقافة الرقمية وأدوات تنظيمية للتصدي لتلاعبات الذكاء الاصطناعي. لقد انتقلت جبهة المواجهة من البنية التحتية إلى عالم النفس — وهذا ما يستدعي نهجاً مغايراً جذرياً في مجال الأمن السيبراني.

أسئلة متكررة

ما هي الهندسة الاجتماعية في سياق الذكاء الاصطناعي؟

الهندسة الاجتماعية هي التلاعب بالأشخاص بهدف الحصول على البيانات أو الأموال أو الوصول دون اختراق الحماية التقنية. يُؤتمت وكلاء الذكاء الاصطناعي هذه التقنيات: يختارون الحجج والأسلوب لكل محاور في الوقت الفعلي، دون تعب ودون الوقوع في الأخطاء العاطفية التي تكشف المحتال البشري.

كيف يمكن الحد من مخاطر محتالي الذكاء الاصطناعي؟

المبدأ الأساسي للحماية هو التحقق عبر قناة مستقلة: إذا طلب منك "بنك" أو "زميل" أو "خدمة دعم" تسليم بيانات أو أموال، فاتصل بنفسك على الرقم الرسمي المُدرج في الموقع الرسمي، لا الرقم الوارد في الرسالة التي تلقيتها. الذكاء الاصطناعي مُقنِع، لكنه ليس قادراً على كل شيء — وتظل عادة التحقق المزدوج والتريّث الواعي في المواقف الضاغطة درعاً موثوقة للحماية.