مطور يزعم أنه اخترق نظام العلامات المائية SynthID من Google DeepMind

نشر مطور باسم مستعار Aloshdenny مستودعًا على GitHub يحتوي على كود يسمح، وفقًا لقوله، بتجاوز SynthID — نظام العلامات المائية المخفية من Google DeepMind لوضع علامات على الصور المُنتجة بواسطة الذكاء الاصطناعي. يؤكد المؤلف أنه تعلم كيفية إزالة العلامات المائية من الصور أو، على العكس من ذلك، إدراجها في أي صورة بدون إذن من Google. SynthID هو تطوير من Google DeepMind، مدمج في Gemini والأدوات الأخرى للشركة.

تقوم التكنولوجيا بتعديل بكسلات الصورة بشكل غير محسوس، تاركة "توقيعًا" رقميًا يجب أن يصمد أمام الضغط والقص والمعالجات الأخرى. الهدف هو تمكين تحديد المحتوى الذي تم إنشاؤه بواسطة الذكاء الاصطناعي حتى بعد فترة طويلة من النشر. في نوفمبر 2023، قدمت Google نظام SynthID للجمهور، وابتداءً من عام 2024، بدأ تطبيق العلامات المائية على النصوص أيضًا.

شارك Aloshdenny تفاصيل طريقته في منشور على Medium. وفقًا له، لم تتطلب الهندسة العكسية شبكات عصبية أو وصول مغلق إلى بنية Google. كان كافيًا توليد 200 صورة من خلال Gemini وتطبيق طرق معالجة الإشارات.

"إذا كنت عاطلاً عن العمل وكنت تحسب متوسط صور ذكاء اصطناعي سوداء كافية، فسيكشف النمط عن نفسه" — تقريبًا هكذا يصف عمليته. نشر المطور الكود على GitHub تحت رخصة مفتوحة وأكد بشكل متعمد أن العملية برمتها قانونية: لا اختراق، فقط تحليل الصور المتاحة للجمهور. ردت Google DeepMind بحذر: أكد ممثلو الشركة أن الطريقة الموصوفة ليست اختراقًا حقيقيًا لـ SynthID.

وفقًا لـ Google، لم يحصل Aloshdenny على إمكانية الوصول إلى خوارزمية الوضع الفعلية، بل تعلم ببساطة كيفية إعادة إنتاج الأنماط الإحصائية السطحية التي لا تعادل التوقيع الحقيقي للنظام. بعبارة أخرى، تصر Google: SynthID لم يتم اختراقه. ومع ذلك، يكشف هذا الحدث عن ثغرة أساسية في فكرة العلامات المائية للمحتوى المُنتج بواسطة الذكاء الاصطناعي نفسها.

إذا كان بمقدور مطور منفرد يمتلك بضع مئات من الصور على الأقل التكهن جزئيًا بنمط الوضع، فما الذي سيمنع الفرق الممولة جيدًا من فعل ذلك بكفاءة أعلى بأوامر من الحجم؟ حذّر الخبراء منذ فترة طويلة: أي نظام علامات مائية مبني على الانتظام الإحصائي في الصور يكون نظريًا عرضة لمثل هذه الهجمات. يعتبر هذا النقاش مهمًا أيضًا لأن العلامات المائية للمحتوى المُنتج بواسطة الذكاء الاصطناعي تُعتبر واحدة من أهم أدوات التنظيم في المستقبل. يتطلب قانون الذكاء الاصطناعي الأوروبي وعدد من مشاريع القوانين الأمريكية وضع علامات إلزامية على المحتوى المُنتج بواسطة الذكاء الاصطناعي.

إذا كان بإمكان مثل هذه الأنظمة أن يتم تجاوزها من قبل هاوٍ يمتلك جهاز كمبيوتر محمول ووقتًا حرًا، فإن قيمتها العملية كأداة تنظيمية تثير شكوكًا جادة. يبقى السؤال عن مدى عمق فهم أحد الأشخاص لبنية SynthID مفتوحًا — تنفي Google حدوث اختراق، ولم تكن هناك دراية عامة مستقلة لكود Aloshdenny حتى الآن. لكن الحقيقة ذاتها بأن تطوير مثل هذه الأداة أصبح ممكنًا بموارد ضئيلة هي بالفعل إشارة خطيرة لصناعة بأكملها.