Meta تؤكد حدوث تسرّب: نصيحة من وكيل ذكاء اصطناعي فتحت بيانات حساسة أمام الموظفين

شهدت Meta حادثة داخلية تكشف بوضوح الوجه الآخر لمساعدي الذكاء الاصطناعي في الشركات. فقد اقترح وكيل ذكاء اصطناعي على مهندس حلًّا على منتدى داخلي، وبعد تطبيقه أصبحت بيانات حساسة للمستخدمين وللشركة متاحة لجزء من موظفي الشركة لمدة ساعتين.

كيف حدث ذلك

بدا السيناريو عاديًا: طلب أحد الموظفين المساعدة في مهمة هندسية على منتدى داخلي يجيب فيه وكيل ذكاء اصطناعي. فاقترح الوكيل إجراءات محددة، وطبّقها المهندس عمليًا. ولم تكن النتيجة مجرد إخفاق، بل كانت خطيرة: فقد انفتح داخل الشركة الوصول إلى كمية كبيرة من البيانات الحساسة. وأكدت Meta واقعة التسرّب نفسها، وهذا مهم، لأن الأمر لا يتعلق بخطر افتراضي، بل بحادثة مؤكدة في بيئة العمل.

التفصيل الأساسي هنا أن التسرّب كان داخليًا لا علنيًا. فقد وصل المهندسون في Meta إلى البيانات، ولم يصل إليها مهاجمون من الخارج، لكن ذلك لا يجعل الحادثة بسيطة. فالأنظمة الداخلية تحتوي عادةً على بيانات يجب تقييد الوصول إليها بصرامة بحسب الأدوار والمهام. وفي هذه الحالة، وبحسب وصف الحادثة، جرى عمليًا الالتفاف على هذه القيود عبر تنفيذ توصية صادرة عن الذكاء الاصطناعي. واستمرت نافذة الوصول نحو ساعتين، وهي مدة كافية لتتوقف المشكلة عن كونها نظرية.

لماذا الأمر خطير

لا تقتصر أهمية الحادثة على Meta وحدها. فعدد متزايد من الشركات يدمج مساعدي الذكاء الاصطناعي في المنتديات الداخلية وبيئات التطوير (IDE) والوثائق والعمليات التشغيلية. وتجيب هذه الأنظمة بسرعة وبثقة، فيبدأ الموظفون بالتعامل معها كطبقة من البنية التحتية لا كمستشار. لكن النموذج لا يتحمل مسؤولية عواقب إجابته؛ فهو لا يرى سياق العمل كاملًا، ولا يتحمل مسؤولية شخصية، وقد يقترح خطوة تبدو منطقية على المستوى المحلي لكنها تكسر حدود الحماية على مستوى النظام بأكمله.

ثمة خطر إضافي يتمثل في اجتماع بيانات المستخدمين وبيانات الشركة في حادثة واحدة. وحتى لو بقي الوصول داخل المحيط الداخلي، فإن ذلك يظل مسألة تتعلق بالخصوصية والامتثال والرقابة الداخلية. أما مجموعات البيانات التي تأثرت تحديدًا فلا يكشفها الوصف المتاح، لكن الإشارة في الوقت نفسه إلى user data وcompany data تُظهر حجم العواقب المحتملة. وبالنسبة إلى المنصات الكبرى، تتحول مثل هذه الوقائع سريعًا من خطأ تقني إلى مشكلة إدارية: من وافق على الإجراء، وأين كانت عمليات التحقق، ولماذا لم تكن كافية.

أين انكسرت العملية

تبدو هذه الحالة أقرب إلى خلل في سلسلة اتخاذ القرار منها إلى «خطأ نموذج واحد». فقد ولّد وكيل الذكاء الاصطناعي تعليمات، ووثق بها المهندس، ولم يوقف نظام الرقابة التغيير الخطير قبل أن تتسع إتاحة البيانات لأشخاص لا ينبغي أن يصلوا إليها. ويكشف هذا الوصف عدة نقاط ضعف شائعة في كثير من الشركات التي تدمج الذكاء الاصطناعي بنشاط في التطوير الداخلي ودعم الفرق الهندسية:

• جرى التعامل مع إجابة الذكاء الاصطناعي كخطة عمل جاهزة، لا كفرضية تحتاج إلى تحقق.
• مرّ تغيير يؤثر في الوصول إلى البيانات دون موافقة صارمة أو مراجعة الأقران (peer review).
• لم تحظر آليات الحماية الإجراء تلقائيًا، رغم أنه مسّ بيانات حساسة.
• كان فصل صلاحيات الوصول غير كافٍ، إذ حصل على وصول زائد موظفون لا حاجة لهم به.

والاستنتاج العملي للفرق بسيط: لا يجوز وضع الذكاء الاصطناعي الداخلي في مرتبة واحدة مع وثائق خضعت للمراجعة ويتحمل أحد المسؤولية عنها. وأي توصية تمس صلاحيات الوصول أو إعدادات التخزين أو السجلات أو الفهارس أو مسارات البيانات يجب أن تخضع لتحقق إضافي. ويلزم لذلك توفير بيئات معزولة (sandbox)، وتسجيل توصيات الذكاء الاصطناعي، وتحديد مناطق محظورة بوضوح، ووضع سياسات منفصلة للإجراءات التي لا ينبغي للنموذج أن ينصح بها أصلًا دون تصعيدها إلى إنسان.

ماذا يعني ذلك

تُظهر حادثة Meta أن الخطر الرئيسي للذكاء الاصطناعي في الشركات اليوم لا يقتصر على الهلوسات، بل يشمل أيضًا أتمتة الثقة. فإذا كانت الشركة تسرّع عمل مهندسيها بالنماذج، فعليها أن تعزز بالسرعة نفسها عمليات التحقق وفصل صلاحيات الوصول والمسؤولية عن تنفيذ نصائح الذكاء الاصطناعي.

*تم تصنيف Meta كمنظمة متطرفة وحُظر نشاطها في روسيا.