تبدأ 23 نوفمبرالدفعة المباشرة 3 من Vibe Coding ووكلاء الذكاء الاصطناعي: 3 أسابيع و9 جلسات حيةالدفعة 3 (23.11) →
إصدارتحليل · على الرادارIEEE Spectrum AI→ المصدر

AudioHijack: كيف تدفع أصوات خفية نماذج الذكاء الاصطناعي إلى تنفيذ أوامر خبيثة

اكتشف علماء ثغرة حرجة في أنظمة الذكاء الاصطناعي الصوتية. تقنية AudioHijack الجديدة تضمّن في الملفات الصوتية أوامر خفية لا يسمعها الإنسان، وتنفذها نماذج الذكاء الاصطناعي: ترسل البيانات، وتنزّل الملفات، وتجري عمليات بحث خبيثة. نجح الهجوم بنسبة 79-96% على 13 نموذجًا، من بينها نماذج من Microsoft وMistral. والأهم أن وسائل الحماية الحالية لا تجدي نفعًا تقريبًا.

معالج بواسطة الذكاء الاصطناعي من IEEE Spectrum AI؛ بتحرير Hamidun News
AudioHijack: كيف تدفع أصوات خفية نماذج الذكاء الاصطناعي إلى تنفيذ أوامر خبيثة
المصدر: IEEE Spectrum AI. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليIEEE Spectrum AI ↗
رئيس التحرير
حقيقة رئيسية #1تضمين أوامر خفية في موسيقى أو مقطع فيديو يرسله المستخدم إلى الذكاء الاصطناعي لتحليله
حقيقة رئيسية #2صوت خبيث في اجتماع على Zoom يُحمَّل لاحقًا إلى خدمة النسخ النصي الآلي
حقيقة رئيسية #3حقن الأوامر في محادثة صوتية مباشرة مع مساعد ذكاء اصطناعي في الوقت الفعلي

تتغلغل المساعدات الصوتية وأنظمة الذكاء الاصطناعي أكثر فأكثر في حياتنا، من مكبرات الصوت الذكية والهواتف الذكية إلى روبوتات الدردشة في الشركات وأنظمة خدمة العملاء. ولا تقتصر قدرة هذه الأنظمة على التعرف على الكلام، بل يمكنها أيضًا توليد الردود، ونسخ الاجتماعات نصيًا، والاتصال بخدمات خارجية. لكن دراسة جديدة كشفت عن ثغرة حرجة: أصوات خفية لا تسمعها الأذن البشرية إطلاقًا قد تدفع هذه الأنظمة إلى تنفيذ أوامر خبيثة.

تقنية AudioHijack

طوّر باحثون من Zhejiang University أسلوب هجوم جديدًا باسم AudioHijack. فكرته بسيطة على نحو لافت: تضمين تعليمات خفية في ملف صوتي عادي، بحيث لا تسمعها الأذن البشرية، لكن نموذج الذكاء الاصطناعي يتعرف عليها وينفذها.

وسيعرض العلماء نتائج تجاربهم في مؤتمر IEEE Symposium on Security and Privacy المرتقب. فعندما أُدرجت في الملفات الصوتية إشارات صوتية أُعدت خصيصًا لهذا الغرض، بدأت نماذج الذكاء الاصطناعي بتنفيذ إجراءات خطيرة: البحث في الإنترنت عن معلومات حساسة، وتنزيل ملفات من خوادم يتحكم بها المهاجم، وإرسال رسائل بريد إلكتروني تتضمن بيانات شخصية.

اختبر الباحثون 13 نموذجًا رائدًا، بينها خدمات تجارية من Microsoft وMistral. وكانت النتائج صادمة: نجح الهجوم في 79-96% من الحالات. ويمكن إنشاء الإشارة الصوتية في نصف ساعة، واستخدامها مرارًا ضد النموذج نفسه، بغض النظر عن تعليمات المستخدم.

كيف يُنفَّذ الهجوم

تستند التقنية إلى مفهوم adversarial audio، أي الملفات الصوتية المعدّلة خصيصًا لخداع التعلم الآلي. لكن الفرق الجوهري في AudioHijack أنها تستهدف النماذج التوليدية، القادرة لا على تحليل الصوت فحسب، بل على اتخاذ القرارات والتفاعل مع أنظمة أخرى.

وحدد الباحثون خللًا حرجًا في بنية نماذج اللغة الصوتية الكبيرة (LALM). فبما أن هذه النماذج تتلقى التعليمات بصيغة صوتية، يسهل تضمين أوامر خبيثة في الملفات الصوتية. والفرق الرئيسي عن الهجمات السابقة أن المهاجم لا يحتاج إلى التحكم في المستخدم ولا في تعليماته الأصلية، بل في الملف الصوتي نفسه فقط.

ومن السهل تخيل سيناريوهات هجوم واقعية:

  • تضمين أوامر خفية في موسيقى أو مقطع فيديو يرسله المستخدم إلى الذكاء الاصطناعي لتحليله
  • صوت خبيث في اجتماع على Zoom يُحمَّل لاحقًا إلى خدمة النسخ النصي الآلي
  • حقن الأوامر في محادثة صوتية مباشرة مع مساعد ذكاء اصطناعي في الوقت الفعلي

الحماية شبه عديمة الفعالية

اختبر الباحثون عدة أساليب دفاعية. فتزويد النموذج بأمثلة على التعليمات الخبيثة أفاد بنسبة 7% فقط. أما مطالبة الذكاء الاصطناعي بالتحقق من توافق ردّه مع تعليمات المستخدم الأصلية، فقد اعترضت 28% من الهجمات فقط.

«هذه الدفاعات الموضعية لا تنجح، لأن من الصعب جدًا على النماذج التمييز بين نية المستخدم المعتادة وهجومنا»، يقول مِنغ تشن.

والأسلوب الوحيد الذي يعمل جزئيًا هو مراقبة آلية الانتباه في النموذج لرصد اللحظة التي يركّز فيها بإفراط على الصوت الخبيث. غير أن هذه الحماية تبطئ الأداء، وإذا علم المهاجم بها فقد يعايِر أسلوبه لتجاوزها.

ماذا يعني هذا

يبيّن AudioHijack أن أنظمة الذكاء الاصطناعي الصوتية ليست مجرد مساعدات مريحة، بل قنوات محتملة لهجمات خطيرة. ومع دمج هذه النماذج في أنظمة حرجة، تزداد المشكلة حدة. فالشركات لا تحتاج إلى دفاعات موضعية، بل إلى حلول معمارية عميقة، تعيد التفكير في كيفية معالجة النماذج للمدخلات والتحقق من صحتها.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول تقنية AudioHijack؟

طوّر باحثون من Zhejiang University أسلوب هجوم جديدًا باسم AudioHijack. فكرته بسيطة على نحو لافت: تضمين تعليمات خفية في ملف صوتي عادي، بحيث لا تسمعها الأذن البشرية، لكن نموذج الذكاء الاصطناعي يتعرف عليها وينفذها. وسيعرض العلماء نتائج تجاربهم في مؤتمر IEEE Symposium on Security and Privacy المرتقب.

ما أبرز التفاصيل حول كيف يُنفَّذ الهجوم؟

تستند التقنية إلى مفهوم adversarial audio، أي الملفات الصوتية المعدّلة خصيصًا لخداع التعلم الآلي. لكن الفرق الجوهري في AudioHijack أنها تستهدف النماذج التوليدية، القادرة لا على تحليل الصوت فحسب، بل على اتخاذ القرارات والتفاعل مع أنظمة أخرى. وحدد الباحثون خللًا حرجًا في بنية نماذج اللغة الصوتية الكبيرة (LALM). فبما أن هذه النماذج تتلقى التعليمات بصيغة صوتية، يسهل تضمين أوامر خبيثة في الملفات الصوتية.

ما أبرز التفاصيل حول الحماية شبه عديمة الفعالية؟

اختبر الباحثون عدة أساليب دفاعية. فتزويد النموذج بأمثلة على التعليمات الخبيثة أفاد بنسبة 7% فقط. أما مطالبة الذكاء الاصطناعي بالتحقق من توافق ردّه مع تعليمات المستخدم الأصلية، فقد اعترضت 28% من الهجمات فقط. «هذه الدفاعات الموضعية لا تنجح، لأن من الصعب جدًا على النماذج التمييز بين نية المستخدم المعتادة وهجومنا»، يقول مِنغ تشن. والأسلوب الوحيد الذي يعمل جزئيًا هو مراقبة آلية الانتباه في النموذج لرصد اللحظة التي يركّز فيها بإفراط على الصوت الخبيث.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…