Moonbounce تجمع 12 مليون دولار لمحرك للإشراف على المحتوى في عصر AI

جمعت Moonbounce 12 مليون دولار في استثمارات لتطوير محرك ذكاء اصطناعي يحل أحد أكثر التحديات إلحاحاً في الذكاء الاصطناعي للشركات: كيفية جعل نموذج اللغة يلتزم بشكل متسق وقابل للتنبؤ بقواعد الاعتدال على المحتوى بغض النظر عن خصائص الطلب. تأسست الشركة من قبل مسؤول سابق من فيسبوك. هذه إشارة مهمة: كان فيسبوك الأول الذي واجه تحدي الاعتدال على المحتوى على نطاق صناعي عبر مليارات المنشورات.

لسنوات عديدة، بنت الشركة أنظمة معقدة، تدير آلاف المحررين البشريين ومصنفات التعلم الآلي. الخبرة المتراكمة حول معنى «الامتثال للسياسات» عند التعامل مع مئات الآلاف من الحالات الحدية في الثانية يتم إعادة تصورها الآن لأنظمة الذكاء الاصطناعي من الجيل القادم. منتج Moonbounce هو ما تسميه الشركة محرك التحكم بالذكاء الاصطناعي.

مبدأ التشغيل بسيط في الوصف وقائم على التعقيد في التنفيذ: تصف سياسة الاعتدال بصيغة قابلة للقراءة من الإنسان — ما هو مسموح به، وما هو محظور، والسياقات التي تنشئ استثناءات، وكيفية تفسير الحالات الحدية. يحول المحرك هذه القواعد إلى معاملات سلوكية تشغيلية لنموذج اللغة. النتيجة هي نظام ذكاء اصطناعي يستجيب للمحتوى بشكل متسق وقابل للتنبؤ، دون مفاجآت ظرفية أو تناقضات منطقية.

المشكلة التي تحلها Moonbounce تتصاعد بسرعة. تدمج الشركات بكثرة نماذج اللغات الكبيرة في منتجات حقيقية: روبوتات الدردشة لدعم العملاء، وأنظمة معالجة محتوى المستخدم التلقائية، والمساعدات الداخلية للموظفين. لكن نماذج اللغات احتمالية بطبيعتها — فهي لا «تتبع القواعد» بالمعنى الحتمي الذي يتبعه الكود التقليدي.

يمكن لنفس صيغة الطلب أن تنتج إجابات مختلفة في جلسات مختلفة. قد يفسر النموذج حدود ما يقبل بشكل مختلف مع التغييرات البسيطة في السياق. هذا يجعل سياسات الاعتدال الشركاتية القياسية غير قابلة للتطبيق عملياً على نماذج اللغات الكبيرة دون طبقة وسيطة خاصة.

النهج التقليدي — كتابة مطالبات النظام يدوياً، قوائم الكلمات المحظورة والقواعس الاستدلالية — لا يتسع: تقضي الفرق أسابيع في «اصطياد» الردود غير المتوقعة للنموذج، وثم تواجه حتى الانحدارات عند تحديث النموذج الأساسي أو توسيع حالات الاستخدام. يتشكل سوق حوكمة الذكاء الاصطناعي الشركاتي الآن، وهو يتشكل بسرعة. يطلب المنظمون في الاتحاد الأوروبي والولايات المتحدة والعديد من الولايات القضائية الأخرى من الشركات توثيق والتحكم في سلوك أنظمة الذكاء الاصطناعي.

يقدم قانون الاتحاد الأوروبي للذكاء الاصطناعي عمليات تدقيق إلزامية لأنظمة الذكاء الاصطناعي عالية المخاطر ويتطلب السيطرة على السلوك القابلة للإثبات. هذا ينشئ الطلب الهيكلي للبنية التحتية: تحتاج الشركات إلى أدوات لا تحاول فقط اتباع القواعد، بل يمكنها إثبات ذلك للمنظمين. سيسمح الاستثمار بمبلغ 12 مليون دولار لـ Moonbounce بتوسيع فريقها وتسريع تطوير المحرك والبدء في جذب عملاء الشركات بنشاط.

تعمل الشركة الناشئة في قطاع حيث لا يوجد حالياً سوى عدد قليل من المنافسين المباشرين بنهج مماثل — على الرغم من أن لاعبي المنصات الكبار يقدمون أدواتهم الخاصة لسلامة الذكاء الاصطناعي، فإنهم يركزون بشكل أساسي على التكامل مع أنظمتهم السحابية الخاصة، بدلاً من كونهم طبقة حوكمة مستقلة. يتوقف اعتدال المحتوى عن كونه مهمة حصرية لمراجع بشري أو هندسة مطالبات لمرة واحدة ويصبح طبقة بنية تحتية يجب أن توجد في كل نظام ذكاء اصطناعي يعمل مع محتوى ينتجه المستخدمون. ستحصل الشركات التي تستثمر اليوم في أدوات إدارة سلوك الذكاء الاصطناعي على ميزة هيكلية: حوادث أقل والامتثال التنظيمي المتنبأ به وتوسع أسرع للمنتجات.

تطمح Moonbounce إلى أن تصبح بالضبط هذه الطبقة.