Meta أخرجت المراهقين: شخصيات الذكاء الاصطناعي تعود للتدريب

ميتا أغلقت الباب أمام المراهقين: شخصيات الذكاء الاصطناعي تعود للإعادة

أدرك مارك زوكربيرج فجأة أن إطلاق حشد من النسخ الرقمية لمشاهير في حجرة واحدة مع المراهقين كان فكرة مشكوكاً فيها للغاية. أكدت ميتا رسمياً أنها تغلق مؤقتاً وصول القاصرين إلى شخصيات الذكاء الاصطناعي الخاصة بها في جميع التطبيقات، بما في ذلك إنستغرام وواتس آب. بينما يستمتع البالغون بتبادل الرسائل مع نسخ افتراضية من باريس هيلتون أو توم برادي، تم إرسال الجيل الأصغر إلى مقاعد الاحتياط الرقمية. تؤكد الشركة أن هذا ليس نهاية القصة، بل مجرد توقف لإنشاء نسخة أكثر ملاءمة من المنتج تأخذ في الاعتبار الاحتياجات الخاصة بعمر المستخدمين.

بدت قصة شخصيات الذكاء الاصطناعي في ميتا منذ البداية محاولة لاللحاق بالقطار المغادر من Character.ai. كانت الفكرة بسيطة وبطريقة ما عبقرية: إعطاء المستخدمين فرصة الدردشة مع شخص يبدو ويتحدث مثل بطلهم المفضل. لكن الخوارزميات الكامنة وراء هذه البوتات كانت تنتج في بعض الأحيان محتوى لم يتناسب مع إطار تطبيق صديق للعائلة. عندما يبدأ صديقك الافتراضي في مناقشة موضوعات غير مقصودة لآذان الطالب، أو يظهر إلحاحاً مفرطاً، يشعر محامو الشركة بصداع حقيقي. المشكلة هي أن نماذج اللغة الكبيرة بطبيعتها عرضة للهلوسات ولا تحترم دائماً الفلاتر المحددة.

خلف هذا القرار لا يكمن فقط قلق مفاجئ حول الصحة العقلية، بل أيضاً حساب قانوني بارد. المنظمون في جميع أنحاء العالم، خاصة في أوروبا والولايات المتحدة، يراقبون الآن عن كثب كل خطوة تتخذها عمالقة التكنولوجيا في حماية الأطفال. بعد سنوات من الجلسات حول تأثير إنستغرام على احترام الذات لدى المراهقين، لا تستطيع ميتا ببساطة تحمل فضيحة أخرى كبيرة متعلقة بالذكاء الاصطناعي تشمل الأطفال. من الأسهل إطفاء المفتاح الآن وإعادة بناء النموذج في المختبر بدلاً من دفع غرامات بمليارات الدولارات والإجابة على مجلس الشيوخ لاحقاً.

لم توضح ميتا بعد ما سيتغير تماماً في النسخة المحدثة من الذكاء الاصطناعي للمراهقين. ربما سنرى نماذج لغة معقمة للغاية تتجنب أي زوايا حادة وتحول أي محادثة إلى محاضرة مملة عن فوائد دقيق الشوفان. هنا تكمن الفخ الرئيسي للشركة: المراهقون لا يريدون بوتات آمنة وصحيحة — يريدون محاورين مهمين وأحياء. وإذا جعلت ميتا المنتج مملاً جداً، فسيذهب الشباب ببساطة إلى منصات أخرى أقل خضوعاً للرقابة. هذا صراع كلاسيكي بين الأمان والمشاركة لم يحله أحد في الصناعة حتى الآن.

التعقيد التقني للمهمة كبير أيضاً. لا تتعامل الطرق القياسية للتعلم المعزز بناءً على ردود الفعل البشرية دائماً بشكل جيد مع الكلام العامي للمراهقين والسياق ومحاولات الاختراق من خلال طلبات كسر القيود. إنشاء ذكاء اصطناعي يكون متساوياً من حيث الكاريزما والضرر اللامطلق هو الكأس المقدسة للتطوير الحديث. اعترفت ميتا فعلياً بأن تقدمها الحالي لا يلبي هذا المعيار وقررت عدم المخاطرة بسمعتها من أجل نمو المقاييس قصير الأجل.

بالنسبة لصناعة الذكاء الاصطناعي بأكملها، هذا سابقة مهمة. إذا اعترفت حتى ميتا، بموارد اعتدالها الضخمة وموظفي متخصصي الأخلاقيات، بالهزيمة في صيغتها الحالية، فستكون الشركات الناشئة في وضع أصعب. نحن نشهد نهاية عصر الغرب البري في الذكاء الاصطناعي الاستهلاكي. بدلاً من ذلك تأتي حقبة من الامتثال الصارم والتصنيفات العمرية. لم يتبق للمراهقين سوى الانتظار حتى تصبح الخوارزميات قابلة للتنبؤ بها بما يكفي لكي يسمح لهم زوكربيرج بلعب هذه الألعاب الرقمية مرة أخرى.

الخلاصة: اعترفت ميتا بأنها لا تتحكم بشكل كاف في سلوك شخصيات الذكاء الاصطناعي الخاصة بها للعمل مع الأطفال. هل ستصبح النسخة الجديدة معياراً آمناً للصناعة أم منتجاً آخر ولد ميتاً بسبب الرقابة الزائدة?