موظفو Google يطالبون Sundar Pichai برفض مشاريع عسكرية سرية للذكاء الاصطناعي

اندلع نزاع جديد داخل جوجل حول المكان الذي يجب على الشركة أن ترسم فيه الخط الفاصل بين الاستخدامات المقبولة للذكاء الاصطناعي. وفقاً لمنظمي المبادرة، وقّع مئات من باحثي الذكاء الاصطناعي رسالة موجهة إلى الرئيس التنفيذي لـ Alphabet وجوجل سوندار بيتشاي، يطلبون منه عدم السماح لأنظمة الشركة بالمشاركة في المهام المصنفة بسرية دعماً للمهام الدفاعية الأمريكية. إن مجرد وجود هذه الرسالة يثبت أن القضية تجاوزت نطاق النقاش الأخلاقي المجرد: يخشى جزء من الفريق أن يؤدي العمل مع السيناريوهات العسكرية المغلقة إلى تغيير المنتج نفسه والصورة العامة للشركة.

يطالب مؤلفو الرسالة الإدارة بتبني موقف أكثر حزماً مقدماً، بدلاً من بعد إطلاق المشاريع المحتملة. لا يتعلق الأمر ببساطة بالتعاون مع الدولة كما هي، بل بالتحديد حول وصول أنظمة الذكاء الاصطناعي في جوجل إلى المهام الحسابية المصنفة بسرية والمهام المرتبطة بمؤسسة الدفاع الأمريكية. ولهذا السبب بالذات، تم توجيه الرسالة شخصياً إلى بيتشاي، وليس إلى لجنة مجردة.

بالنسبة للموظفين، هذا تمييز حاسم: عندما يدخل نموذج أو بنية تحتية سحابية بيئة تتمتع بحد أدنى من الشفافية الخارجية وتتخذ القرارات بطريقة مغلقة، يصبح من الأصعب فهم سيناريوهات الاستخدام الفعلية وحجم النشر والضرر المحتمل من الأخطاء أو الإساءة. تحظى هذه المخاوف بفهم من الناحية التقنية أيضاً. تُستخدم أنظمة الذكاء الاصطناعي الحديثة بشكل متزايد كأدوات للتحليل والبحث والتصنيف ودعم صنع القرار.

حتى لو لم تكن الشركة تطور أسلحة ذاتية التشغيل، فإن مجرد دمج النماذج في البنية التحتية العسكرية المغلقة يثير أسئلة حول التحكم والمسؤولية والتحقق من النتائج. في بيئة مصنفة بسرية، يكاد يكون من المستحيل إجراء تدقيق مستقل، وقد يطبق المستخدمون داخل النظام نفس النماذج على مهام بمستويات مخاطرة مختلفة جداً. بالنسبة للباحثين الذين يبنون هذه الأنظمة، فإن هذا يعني فقدان الرؤية حول المكان الذي تنتهي فيه التكنولوجيا المحايدة والمكان الذي تبدأ فيه المشاركة في العمليات العسكرية.

بالنسبة لـ جوجل، هذا الموضوع حساس ليس فقط بسبب الأخلاقيات، بل أيضاً بسبب الأعمال التجارية. تتنافس شركات التكنولوجيا الكبيرة في نفس الوقت على الريادة في الذكاء الاصطناعي وعلى العقود الحكومية والشركاتية الكبيرة. كلما أصبحت النماذج أكثر قوة، زاد الاهتمام من جانب هياكل الدفاع التي تحتاج إلى حوسبة آمنة وتحليلات والعمل مع مجموعات بيانات ضخمة.

لكن مع ذلك، يتزايد سعر الصراعات الداخلية: يريد الموظفون أن يفهموا في أي أسواق تدخل الشركة، وما القيود التي تستعد الإدارة لالتزام بها علناً، وأين تقع الخطوط الحمراء لتسويق الذكاء الاصطناعي. الرسالة إلى بيتشاي هي محاولة للتأثير على القرار قبل أن يصبح غير قابل للعكس. القصة مهمة أيضاً لصناعة ذكاء اصطناعي بأكملها.

يواجه كل مطور ذكاء اصطناعي رئيسي تقريباً اليوم نفس الخيار: تقييد تطبيق نماذجهم في المجال العسكري أو السماح بسيناريوهات محددة معينة أو بناء تعاون كامل مع الدولة. لا توجد إجابة عامة هنا. يعتقد البعض أن على شركات التكنولوجيا التزاماً بمساعدة الدول الديمقراطية وهياكلها الدفاعية، خاصة في مسائل الأمن السيبراني والتحليل الاستخباراتي وحماية البنية التحتية.

يذكر آخرون أن الطبيعة المصنفة بسرية لمثل هذه المشاريع تقلل بشكل كبير من الإشراف العام وتخلق الحافز لتوسيع المهام الضيقة في البداية إلى ما وراء نطاقها المعلن. لذلك، فإن الخلاف داخل جوجل ليس حلقة شركاتية خاصة، بل مؤشر على انقسام أوسع في صناعة الذكاء الاصطناعي. إذا استمعت قيادة جوجل للرسالة، يمكن للشركة أن تؤسس علناً قيوداً على المشاركة في المهام العسكرية المصنفة بسرية مع الذكاء الاصطناعي وبالتالي تهدئة جزء من فريقها.

إن لم تفعل، فإن الصراع قد يدخل مرحلة طويلة وقد يصبح اختباراً لمن يحدد فعلاً حدود تطبيق الذكاء الاصطناعي في عصر الذكاء الاصطناعي التوليدي: المهندسون أو الإدارة أو المتعاقد الحكومي.