الذكاء الاصطناعي في Finam: كيفية البقاء عند الانتقال من GPT-3.5 إلى خط الإنتاج

الذكاء الاصطناعي في فينام: كيفية البقاء على قيد الحياة عند الهجرة من GPT-3.5 إلى خط أنابيب الشركة

يعتقد الكثيرون حتى الآن بصدق أن تطبيق الذكاء الاصطناعي في شركة كبيرة يبدو وكأنه ببساطة شراء اشتراك ChatGPT Plus لكل قسم. في الواقع، واجهت فينام حقيقة أن حماس الأفراد ينكسر بسرعة ضد قسوة الواقع الشركاتي. عندما يعمل نموذج Flutter الأولي الخاص بك لمطور واحد — فهذا سحر وإنجاز تكنولوجي. عندما تحتاج إلى توزيع نفس التكنولوجيا على ألف موظف في منظمة مالية، يتحول السحر إلى سلسلة لا نهائية من مشاكل الأمان وتكاليف الطلبات وجودة الإجابات. قصة فينام مثيرة للاهتمام بشكل خاص لأنهم لم يخشوا السير في الطريق من "لعبة" إلى حل صناعي، خطين على كل أشعل محتمل.

بدأ كل شيء بتجربة كلاسيكية مع GPT-3.5. في تلك اللحظة، بدا أن كل ما هو مطلوب هو إعطاء الناس إمكانية الوصول إلى API وستنطلق الإنتاجية. ومع ذلك، القطاع المالي ليس ملعب رملي. أظهر أول فحص جاد أن الاستخدام غير المنضبط للشبكات العصبية الخارجية ينطوي على مخاطر تسرب البيانات السرية والنفقات غير المتوقعة. لا يمكنك ببساطة إرسال بيانات العميل إلى سحابة OpenAI والأمل في الأفضل. اضطر الفريق إلى تطوير منصة داخلية بشكل عاجل ستصبح "طبقة" بين الموظف والشبكة العصبية. تولت هذه الطبقة وظائف التحكم في الوصول وتسجيل كل طلب والحد الصارم من الرموز، حتى لا ينفد ميزانية الذكاء الاصطناعي في الأسبوع الأول من الشهر.

كانت المرحلة التالية محاربة "الهلاوس". الشبكات العصبية تحكي القصص بشكل ممتاز، لكن في التمويل، الأكاذيب مكلفة جداً. لإجبار الذكاء الاصطناعي على قول الحقيقة، طبقت فينام تكنولوجيا RAG (الإنشاء المعزز بالاسترجاع). الآن النموذج لا يخترع إجابة من الصفر، بل يبحث أولاً عن المعلومات في قاعدة اللوائح الداخلية والمستندات الخاصة بالشركة، وعندها فقط يشكل إجابة بناءً على الحقائق التي تم العثور عليها. تحول هذا روبوت دردشة مجردة إلى خبير يفهم تعقيدات العمليات الداخلية للشركة. بالتوازي مع هذا، بدأت التجارب مع النماذج المحلية. أصبح استخدام قوتهم الحسابية الخاصة لتشغيل Llama أو حلول مفتوحة المصدر الأخرى الإجابة على متطلبات الأمان: لا ينبغي لأحدث البيانات حساسية أن تترك الشبكة الداخلية على الإطلاق.

فرض التوسع إلى 1000+ شخص إعادة نظر كاملة في الهندسة المعمارية. اتضح أن الحفاظ على التشغيل المستقر لخدمة الذكاء الاصطناعي تحت الحمل العالي هي تخصص هندسي منفصل. كان لا بد من بناء أنظمة مراقبة معقدة تتتبع ليس فقط توفر الخوادم بل أيضاً جودة الإجابات في الوقت الفعلي. فهمت فينام: التكنولوجيا هي فقط 20% من النجاح. الـ 80% الأخرى هي عمل شاق على البنية التحتية وتدريب الموظفين على صياغة الطلبات بشكل صحيح والتكيف المستمر مع المتطلبات التنظيمية المتغيرة. المفارقة هي أنه كلما أصبح الذكاء الاصطناعي أذكى، كلما احتاج إلى المزيد من المهندسين المؤهلين لدعمه.

حالياً، منصة فينام ليست مجرد دردشة، بل مركز كامل حيث تعيش كل من واجهات برمجة التطبيقات الخارجية والنماذج المحلية، جنباً إلى جنب مع وكلاء متخصصين لأقسام مختلفة. هذا طريق من التنازلات بين سرعة الاستجابة وتكلفة الرمز الواحد وأمان البيانات. أظهرت الشركة بوضوح أن عصر "الروبوتات البسيطة فقط" قد انتهى، مفسحاً المجال لعصر أنظمة الذكاء الاصطناعي الشركاتية. أولئك الذين يحاولون اليوم ببساطة "توصيل API" سيواجهون غداً نفس التحديات في التوسع التي تجاوزتها فينام بالفعل. السؤال فقط هو ما إذا كان لدى الآخرين الصبر لتحويل اتجاه عصري إلى أداة فعالة.

النقطة الرئيسية: تطبيق الذكاء الاصطناعي في المؤسسة هو 80% بناء البنية التحتية و 20% فقط اختيار النموذج نفسه. هل أنت مستعد لدفع ثمن أمان بيانات زعيمك بسعر مضاعف في شكل ساعات الهندسة؟