Meta أخرجت المراهقين: شخصيات الذكاء الاصطناعي تعود للتدريب

علّقت Meta وصول المراهقين إلى شخصياتها المعتمدة على الذكاء الاصطناعي في جميع تطبيقات الشركة، بما في ذلك Instagram وWhatsApp — وينطبق هذا القرار على مستوى العالم. وتؤكد الشركة أن هذا ليس تخليًا عن المنتج، بل توقفًا مؤقتًا: فـ Meta تُعِدّ نسخة محدَّثة من شخصيات الذكاء الاصطناعي للمراهقين تراعي خصائص الفئة العمرية للمستخدمين. ولا يزال بإمكان المستخدمين البالغين في Meta التواصل مع نسخ افتراضية من المشاهير — مثل باريس هيلتون أو توم برادي.

ماذا تغيّر بالنسبة للمراهقين

أكدت Meta رسميًا الإغلاق المؤقت لوصول القاصرين إلى شخصياتها المعتمدة على الذكاء الاصطناعي في جميع تطبيقاتها — بما في ذلك Instagram وWhatsApp. وينطبق هذا القيد على مستوى العالم. أما بالنسبة للمستخدمين البالغين، فتواصل الخدمة العمل كما كانت من قبل: يمكنهم، على سبيل المثال، التواصل مع نسخ افتراضية من باريس هيلتون أو توم برادي. وبحسب الشركة، فإن هذا ليس نهاية المطاف، بل توقف مؤقت لإنشاء نسخة أكثر ملاءمة من المنتج — تراعي خصائص الفئة العمرية للمستخدمين.

كيف ظهرت شخصيات الذكاء الاصطناعي لدى Meta وما كانت المشكلة

بدت شخصيات الذكاء الاصطناعي لدى Meta منذ البداية وكأنها محاولة للحاق بـ Character.ai. وكانت الفكرة تتمثل في منح المستخدمين فرصة التحدث مع شخصية تبدو وتتحدث مثل الشخصية المفضلة لديهم. لكن الخوارزميات التي تقوم عليها هذه الروبوتات كانت تُنتج أحيانًا محتوى لا يتناسب مع حدود تطبيق موجَّه للعائلات: فقد يناقش المحاور الافتراضي مواضيع غير مناسبة لتلميذ مدرسة، أو يُظهر إلحاحًا مفرطًا. والسبب في ذلك أن نماذج اللغة الكبيرة عرضة بطبيعتها للهلوسة ولا تلتزم دائمًا بالفلاتر الموضوعة.

لماذا علّقت Meta الوصول في هذا التوقيت بالذات

تراقب الجهات التنظيمية في جميع أنحاء العالم، وخاصة في أوروبا والولايات المتحدة، عن كثب كيفية حماية شركات التكنولوجيا للأطفال. ويأتي ذلك في ظل سنوات من الدعاوى والتحقيقات المتعلقة بتأثير Instagram على تقدير الذات لدى المراهقين — وفضيحة صاخبة أخرى مرتبطة بالذكاء الاصطناعي هي أمر لا يمكن للشركة تحمّله. فمن الأسهل تعليق الخدمة الآن وإعادة بناء النموذج، بدلًا من دفع غرامات بمليارات الدولارات لاحقًا وتقديم تفسيرات أمام مجلس الشيوخ.

ما هي الصعوبات التي ما زالت دون حل

لم توضح Meta بعد ما الذي سيتغير بالضبط في النسخة المحدَّثة الموجَّهة للمراهقين. فأساليب التعلّم المعزز المعتمدة على تقييمات البشر لا تتعامل دائمًا بنجاح مع لغة المراهقين العامية والسياق ومحاولات الالتفاف على النظام عبر طلبات "jailbreak". وابتكار ذكاء اصطناعي يجمع بين الجاذبية وانعدام الضرر الكامل مهمة معقدة، وقد أقرّت الشركة بأن تطويراتها الحالية لا ترقى إلى هذا المستوى، مفضّلة عدم المخاطرة بسمعتها مقابل نمو قصير الأجل في المؤشرات.

وفي الوقت نفسه، تحمل النسخة الصارمة جدًا خطر أن تصبح مملة: فإذا فقد المراهقون الاهتمام بالتحدث مع الروبوتات، فقد ينتقلون إلى منصات أخرى أقل خضوعًا للرقابة. وإذا كانت Meta نفسها، بما تملكه من موارد للإشراف، تعترف بعجزها عن حل هذه المشكلة بشكلها الحالي، فسيكون الأمر أصعب بكثير على الشركات الناشئة في هذا المجال.

ما الذي علّقته Meta بالضبط؟

علّقت Meta وصول المراهقين إلى شخصياتها المعتمدة على الذكاء الاصطناعي في جميع تطبيقاتها، بما في ذلك Instagram وWhatsApp. وينطبق هذا القيد على مستوى العالم، بينما تواصل الخدمة عملها كما كانت بالنسبة للمستخدمين البالغين.

هل تخلّت

Meta عن فكرة شخصيات الذكاء الاصطناعي الموجَّهة للمراهقين؟

لا. أعلنت الشركة أن هذا ليس تخليًا عن المنتج، بل توقفًا مؤقتًا: فـ Meta تعمل على تطوير نسخة محدَّثة من شخصيات الذكاء الاصطناعي للمراهقين تراعي خصائص الفئة العمرية للمستخدمين.

لماذا اتخذت Meta هذه الخطوة؟

كانت الخوارزميات التي تقوم عليها شخصيات الذكاء الاصطناعي تُنتج أحيانًا محتوى غير مناسب لتطبيق موجَّه للعائلات، ونماذج اللغة الكبيرة عرضة بطبيعتها للهلوسة ولا تلتزم دائمًا بالفلاتر الموضوعة. ويأتي ذلك في ظل الاهتمام الدقيق من الجهات التنظيمية في أوروبا والولايات المتحدة بكيفية حماية شركات التكنولوجيا للأطفال، وسنوات من الدعاوى المتعلقة بتأثير Instagram على تقدير الذات لدى المراهقين.

*تُعتبر Meta منظمة متطرفة ومحظورة في روسيا.