Amazon Bedrock: كيف تعلّمت Pushpay السيطرة على «هلوسات» وكلائها الذكيين

تمرّ صناعة الذكاء الاصطناعي بمرحلة غريبة. فمن جهة، نشاهد عروضًا تجريبية مذهلة لوكلاء مستقلين يُزعم أنهم قادرون على استبدال أقسام كاملة. ومن جهة أخرى، يعرف كل مطوّر حاول نشر نموذج LLM في بيئة إنتاج حقيقية سرًّا غير معلن: هذه النماذج غير مستقرة إلى حدّ كارثي. فمسافة زائدة واحدة في المطالبة (prompt)، أو تحديث لإصدار النموذج من جانب المزوّد، قد يحوّل منتجًا يعمل بكفاءة إلى مولّد لهراء عشوائي. وهذه بالتحديد هي المشكلة التي حاولت Pushpay حلّها، إذ اختارت Amazon Bedrock أساسًا لعملها. وتجربتها ليست مجرد قصة نجاح، بل دليل نجاة لمن يريد أن يبني على الذكاء الاصطناعي أعمالًا حقيقية لا ألعابًا.

تكمن مشكلة معظم مشاريع الذكاء الاصطناعي الحالية في غياب نظام تقييم معقول. فالمطورون يعتمدون غالبًا على ما يُسمّى «فحص الانطباع» (vibe-check): يراجعون يدويًا خمس إلى عشر إجابات من النموذج، وإذا بدت مقبولة أطلقوا الإصدار. لكن حين يعالج منتجك آلاف المعاملات أو يتعامل مع عملاء حقيقيين، يصبح هذا النهج مجازفة خطرة. أدركت Pushpay ذلك مبكرًا، وقررت أنها بحاجة إلى خط معالجة آلي يفحص جودة التوليد بالصرامة نفسها التي تُفحص بها الشيفرة البرمجية العادية عبر اختبارات الوحدة. ومنحها استخدام Amazon Bedrock وصولًا إلى نماذج مختلفة عبر واجهة API واحدة، لكن السحر الحقيقي كان في بناء إطار عمل مخصص للتقييم.

ركّز فريق Pushpay على بناء حلقات تغذية راجعة سريعة. فبدلًا من انتظار ملاحظات المستخدمين، أدمج الفريق نظامًا للمراقبة المستمرة للجودة (QA) في صميم عملية التطوير. وسمح ذلك بإجراء التكرارات أسرع بمرات عدة. وإذا بدأت نسخة جديدة من الوكيل «تهلوس» أو تعطي إجابات أقل دقة، فإن النظام يرصد ذلك فورًا. ويغيّر هذا النهج نموذج التطوير نفسه: تتوقف عن التعامل مع الذكاء الاصطناعي بوصفه صندوقًا أسود سحريًا، وتبدأ بالعمل معه كنظام هندسي يمكن قياس معاييره، بل يجب ذلك.

لماذا يهمّ هذا السوق بأكمله الآن تحديدًا؟ نحن ننتقل من روبوتات الدردشة البسيطة إلى أنظمة «وكيلية» (agentic) تتخذ قرارات وتنفّذ إجراءات نيابةً عن المستخدم. وفي هذه الظروف يتضاعف ثمن الخطأ عدة مرات. وتُظهر تجربة Pushpay أن بنية AWS التحتية وأدوات Bedrock تتيح بناء منظومة حماية تقلّص المخاطر إلى الحد الأدنى. فالشركة لم تكتفِ باستخدام نموذج جاهز من Anthropic أو Meta*، بل أنشأت حوله طبقة تحقق. وهذا هو الجزء «الممل» من ثورة الذكاء الاصطناعي، الذي نادرًا ما يُكتب عنه في وسائل التواصل الاجتماعي، لكنه يفصل الشركات الناشئة الباقية عن تلك التي ستُغلق بعد أول عطل كبير.

ويتضح من تحليل هذه الحالة أن الميزة التنافسية في السنوات القادمة لن تكون لمن يملك أكبر نموذج، بل لمن يملك أفضل نظام لتقييم البيانات. تؤدي Amazon Bedrock هنا دور السكين السويسرية المريحة، لكن اليد التي تمسك بها يجب أن تعرف بدقة ما الذي تقيسه. وقد أثبتت Pushpay أنه حتى في مجال متقلب كالذكاء الاصطناعي التوليدي يمكن تحقيق قابلية للتنبؤ. وهذا يتطلب انضباطًا والتخلي عن الإيمان بـ«سحر» الخوارزميات لصالح الأرقام والمقاييس الجافة.

الخلاصة: انتهى رسميًا عصر الثقة بالذكاء الاصطناعي «على الكلمة». والمستقبل للشركات التي تستثمر في أدوات تقييم النماذج ومراقبتها بالحماس نفسه الذي تستثمر به في التطوير ذاته. فهل أنتم مستعدون للاعتراف بأن وكيلكم قد يخطئ، وبناء نظام يوقفه في الوقت المناسب؟

*Meta مصنّفة منظمة متطرفة ومحظورة في روسيا الاتحادية.