Hugging Face: как ИИ-платфعنрма معтала убежищем ل тыمعяч трعنянعنفي

بينما نناقش ما إذا كان GPT-4 سيحل محل المبرمجين أو متى ستبدأ الروبوتات في تحضير القهوة لنا، فإن "المحترفين" الحقيقيين من عالم الجريمة الإلكترونية يستخدمون بالفعل البنية التحتية للذكاء الاصطناعي بنشاط لاحتياجاتهم العملية. وجدت منصة Hugging Face، التي اعتدنا اعتبارها ملاذاً للكود المفتوح وأوزان الشبكات العصبية، نفسها فجأة في مركز فضيحة. اتضح أن آلاف المتغيرات من أحصنة طروادة المصرفية لنظام Android كانت تشعر أنها في البيت هناك. وهذا ليس مجرد ملف عشوائي في زاوية، بل حملة مخططة بعناية تستغل سمعة المنصة كدرع ضد الاشتباه.

يبدو الوضع ساخراً. Hugging Face اليوم هي في الأساس "GitHub للذكاء الاصطناعي"، مكان يتم فيه بناء الثقة في نموذج التفاعل نفسه. إذا كان الرابط يؤدي إلى هذا المورد، فإن معظم أنظمة الأمان وحتى المستخدمين المتقدمين لا يرون فيه تهديداً. قرر المجرمون أن هذا هو المكان المثالي لاستضافة البرامج الضارة متعددة الأشكال. جوهر التكنولوجيا بسيط وفعال: الكود يتطور باستمرار، مما يخلق آلاف الإصدارات الفريدة من نفس الفيروس. برامج مكافحة الفيروسات التقليدية، التي تعمل بالبحث عن "بصمات" معروفة، تفشل ببساطة في هذه الحالات. بالنسبة لها، يبدو كل ملف جديد وكأنه صفحة فارغة أو مجرد مكتبة أخرى غير ضارة لمعالجة البيانات.

لفهم نطاق المشكلة، تحتاج إلى النظر في السياق. كان على المتسللين سابقاً استئجار خوادم مريبة في دول بقوانين متساهلة، والتي سرعان ما انتهت بها الحال في قوائم سوداء. الآن يقومون ببساطة برفع المحتوى على منصة قانونية محترمة بحركة مرور ضخمة. هذا مثال كلاسيكي على هجوم سلسلة التوريد، إلا أن دور "المورد" يلعبه البنية التحتية التي يعتمد عليها الذكاء الاصطناعي الحديث. يستغل المتسللون النهج الديمقراطي الذي نحب Hugging Face من أجله: الانفتاح والإمكانية الوصول للجميع.

من المثير للاهتمام أنه على الرغم من كل التعقيد التكنولوجي مع الكود متعدد الأشكال واستخدام عمالقة الذكاء الاصطناعي السحابية، فإن الخطوة الأخيرة تبقى دون تغيير. كل شيء لا يزال يعود إلى الهندسة الاجتماعية. لا يزال يتعين إقناع المستخدمين بالنقر على زر أو تنزيل ملف أو منح إذن لتطبيق. تساعد التكنولوجيا ببساطة المجرمين على الوصول إلى هذا الباب دون أن يلاحظهم أحد، لكن البشر هم من يفتح الباب. هذا يذكرنا بأنه حتى في عصر الشبكات العصبية، فإن أضعف حلقة في الأمان ليست الخوارزمية، بل رغبتنا في الثقة في شرعية الرابط المستقبل.

بالنسبة للصناعة، هذا جرس إنذار مقلق. أصبحنا معتادين بسرعة كبيرة على الثقة في كل ما يتعلق بالذكاء الاصطناعي، معتبرينه إقليماً للعلم الرفيع والتقدم. تظهر حالة Hugging Face أن أي منصة شهيرة ستصبح حتماً أداة في أيدي من يريدون تفريغ حسابات الآخرين. الآن سيتعين على محرري خدمات الذكاء الاصطناعي إنفاق الموارد ليس فقط على تصفية المحتوى السام أو النماذج المتحيزة، بل أيضاً على الفحوصات العادية للملفات بحثاً عن أحصنة طروادة المصرفية. أهلاً وسهلاً في العالم الحقيقي، حيث حتى الشبكات العصبية يمكن أن يكون لديها أيد قذرة.

المحصلة: الثقة في منصات الذكاء الاصطناعي تصبح ضعفاً جديداً. هل Hugging Face مستعدة لتصبح شرطة الأمان، أم أن الانفتاح أهم من أمان أموالك?