رئيس Microsoft براد سميث: الحليب يخضع لتنظيم أشد صرامة من الذكاء الاصطناعي

دعا رئيس Microsoft براد سميث إلى وضع قواعد عالمية لسلامة الذكاء الاصطناعي، واقترح أن يُنص في القانون على التزام بإبلاغ الضحايا إذا خرج وكيل ذكاء اصطناعي عن السيطرة واخترق أنظمتهم. وعرض سميث موقفه في بودكاست BBC Big Boss Interview مع المقدّم ويل بين. صدرت الحلقة في 11 أكتوبر. وقد وُضعت الصورة الرئيسية للحوار في العنوان: الحليب، بحسب سميث، يخضع لتنظيم أشد صرامة من الذكاء الاصطناعي.

ماذا يقترح سميث تحديدًا

في المقتطف المتاح من المادة، ينقطع اقتباس سميث عند عبارة «Right now, your…»، لذلك من الأفضل التحقق من حجته الكاملة في تسجيل البودكاست. غير أن الأطروحات الأساسية واضحة.

الأولى: يجب أن تكون قواعد السلامة عالمية. فالنماذج والوكلاء غير مرتبطين بولاية قضائية بعينها، والضرر الناجم عنهم لن يتوقف عند الحدود. الثانية: إذا اخترق وكيل مستقل نظامًا يعود إلى طرف آخر، فيجب أن يعلم المتضرر بذلك بحكم القانون، لا بحسن نية المطوّر أو المشغّل.

الأطروحة الثانية هي الأكثر تحديدًا. فهي تنقل إلى عالم الوكلاء منطقًا مألوفًا من مجال البيانات الشخصية. ففي الاتحاد الأوروبي، مثلًا، يُلزم GDPR بإخطار الجهة التنظيمية عند حدوث تسريب، وفي كثير من ولايات الولايات المتحدة قوانين خاصة بالإخطار. أما في الحوادث التي يقف خلفها وكيل ذكاء اصطناعي، فلا توجد حتى الآن قاعدة بهذا الشكل العام. هذه مقارنة من عندنا، وليست اقتباسًا عن سميث، لكنه على ما يبدو يستهدف هذا الفراغ تحديدًا.

لماذا ينجح التشبيه بالحليب

يخضع الحليب للرقابة في كل حلقة: الإنتاج والتخزين ووضع الملصقات ومواعيد الصلاحية. وإذا كانت دفعة ما خطرة، تُسحب من السوق ويعلم المشترون بذلك. أما النماذج التي تتخذ قرارات وتنفّذ إجراءات في أنظمة حقيقية، فلا توجد لها سلسلة مسؤولية كهذه. لا يوجد معيار موحّد للاختبار قبل الإطلاق، ولا سحب إلزامي، ولا التزام عام بالإبلاغ عن الضرر.

وقد تفاقمت المشكلة مع ظهور الوكلاء. فروبوت الدردشة يخطئ في النص. أما الوكيل الذي يملك صلاحية الوصول إلى البريد والمستودعات والسحابة وأنظمة الدفع، فيخطئ في الفعل. وحين يتجاوز الصلاحيات الممنوحة له، سواء بسبب ثغرة أو حقن أوامر (prompt injection) أو نية خبيثة، يصبح الضرر تقنيًا وقانونيًا في آن واحد.

ما المعروف من الوقائع

• المتحدث: براد سميث، رئيس Microsoft.
• المنصة: بودكاست BBC Big Boss Interview، والمقدّم ويل بين.
• تاريخ صدور الحلقة: 11 أكتوبر.
• المطلب الرئيسي: قواعد عالمية لسلامة الذكاء الاصطناعي.
• القاعدة المحددة: التزام قانوني بإخطار الضحايا عندما يخترق وكيل منفلت أنظمتهم.
• إطار الحديث: الذكاء الاصطناعي يخضع لتنظيم أضعف من المنتجات الغذائية مثل الحليب.

الخلاصة العملية للسوق

إن استثمارات الوكلاء التي تقدَّر بالمليارات تجعل هذا النقاش حتميًا، ومن المناسب أن نلاحظ من يبدؤه. فـ Microsoft ليست ناقدًا من الخارج: فهي تبيع الوكلاء، وتملك سحابة، واستثمرت في OpenAI. وحين يطلب المزوّد نفسه وضع قواعد، فهو يحاول جزئيًا أن يحدد شكلها. والمعيار العالمي الموحّد في مصلحة اللاعبين الكبار، إذ يسهل عليهم الامتثال للمتطلبات أكثر من الشركات الناشئة.

أما الفرق التي تنشر الوكلاء بالفعل، فلا حاجة بها إلى انتظار القانون. من المفيد إجراء جرد: ما صلاحيات كل وكيل، وأين تُحفظ سجلاته، ومن يقرر أن حادثًا قد وقع، وبأي سرعة يعلم العملاء بذلك. وإذا سارت التنظيمات في الاتجاه الذي يصفه سميث، فستكون الشركات التي لديها عملية جاهزة للاستجابة هي الرابحة. أما الباقون فسيضطرون إلى بنائها على عجل، تحت ضغط الجهة التنظيمية وبعد أول حادثة مدوّية.