قدمت LangSmith بوابة LLM: التحكم في النفقات وحماية البيانات الشخصية للوكلاء الذكيين

LangSmith، منصة لتطوير وتصحيح تطبيقات LLM من LangChain، قدمت بوابة LLM مدمجة. هذه أداة جديدة تسمح للمطورين بالتحكم في تكاليف استدعاءات نماذج اللغات الكبيرة، وحماية بيانات المستخدمين، وتتبع كل استدعاء في الوقت الفعلي. يتم الإدارة مباشرة من بيئة التطوير، دون تثبيت خدمات إضافية.

كيفية عمل البوابة

يتم دمج بوابة LLM مباشرة في LangSmith وتعمل على مستوى وقت التشغيل — في لحظة تنفيذ الطلب. تتموضع الأداة بين كود الوكيل وخدمة مزود LLM (OpenAI و Anthropic و Google وغيرها)، تعترض كل طلب، تتحقق منه مقابل القواعد المحددة، وتطبق التحويلات الضرورية قبل الإرسال إلى الخادم. في الماضي، كان على المطور كتابة برنامج وسيط خاص أو الاعتماد على السجلات بعد تنفيذ الطلب بالفعل — عندما تكون الفرصة قد فاتت. الآن تندمج البوابة تلقائياً، دون تعديل كود التطبيق. هذا يبسط النشر والإنتاج ويجعل التحكم أكثر موثوقية. بالنسبة للمنظمات الكبيرة التي تملك عدة تطبيقات ذكاء اصطناعي، هذا الدمج حرج. تصبح المنصة أداة إدارة نشطة لنفقات LLM والأمان في الوقت الفعلي، وليست مجرد نظام تسجيل.

ثلاث قدرات رئيسية

تركز البوابة على ثلاث مشاكل يواجهها المطورون عند العمل مع الوكلاء الذكيين:

• التحكم في النفقات والميزانية — تعيين حدود صارمة على عدد الرموز أو التكلفة المباشرة للطلبات، بمستويات حبيبية مختلفة: على مستوى الوكيل الفردي أو المستخدم أو المنظمة بأكملها أو مفتاح API

• حماية البيانات الشخصية (تحرير PII) — حذف المعلومات الحساسة تلقائياً (أرقام بطاقات الائتمان و SSN والبريد الإلكتروني والعناوين الفعلية وأرقام المستندات) من المحفزات قبل الإرسال إلى الخادم

• التتبع الكامل — حفظ السجلات التفصيلية لكل استدعاء LLM مع معلومات حول إصدار النموذج والمعاملات ووقت الاستجابة والتكلفة

تكون مشكلة تسرب البيانات الشخصية حرجة بشكل خاص في التطبيقات الإنتاجية. عملياً، المطور غالباً لا يستطيع التحكم بشكل كامل في أي بيانات مستخدم تدخل المحفزات — عبر API أو التسجيل أو إدخال المستخدم. تعمل البوابة كمرشح: تنظف القيم الخطرة قبل الإرسال وتسجل حقيقة التحرير، بحيث تعرف فريق الامتثال والأمان أين كان الخطر وكيف تم التعامل معه. التحكم المالي حرج أيضاً. نماذج اللغات الكبيرة مكلفة، والوكلاء المعقدة غالباً تجري دزينة استدعاءات في جلسة مستخدم واحدة. عندما يتم تعيين الحدود على مستوى المنصة (وليس يدوياً في الكود)، يصبح من المستحيل تجاوز الميزانية بشكل غير مراقب.

الدمج في سير العمل

الميزة الرئيسية للبوابة هي أنها ليست خدمة ميكروسيرفسز منفصلة تحتاج إلى تثبيت وتكوين بشكل مستقل. بل هي مكون مدمج في LangSmith. يفتح المطور لوحة معلومات المنصة، وينشط القواعد المطلوبة (حدود الإنفاق وأنماط PII وحدود المعدل)، وتبدأ في العمل فوراً على جميع الوكلاء. هذا يقلل من تعقيد التطوير والنشر. عندما تكون الحوكمة مدمجة في المنصة الأساسية، لا تنفق الفريق الوقت والموارد على تكامل ومراقبة نظام منفصل، ولا حاجة للبحث عن الأخطاء على نقاط الاتصال بين الخدمات.

هذه أول أداة حوكمة مدمجة في دورة حياة الوكيل، وليست مجرد إضافة خارجية.

ما يعنيه هذا

للمطورين: أصبح التحكم في النفقات وحماية البيانات تلقائية الآن. بدلاً من كتابة التحقق في كل طلب، يكفي تحديد القواعد مرة واحدة في LangSmith. يمكن للفريق التركيز على منطق الوكيل، والتحقق الروتيني يعمل من تلقاء نفسه. للشركات: أصبح من الأسهل والأرخص توسيع تطبيقات الذكاء الاصطناعي في الإنتاج. يتم احتواء الأخطار المالية على مستوى المنصة، وحماية PII تعمل خارج الصندوق، والتسجيل تلقائياً يساعد في عمليات التدقيق والتحقق من الامتثال. تتحول LangSmith إلى منصة إدارة كاملة لوكلاء LLM — من المسودات في دفتر ملاحظات المطور إلى التوسع في الإنتاج مع إدارة وحوكمة مدمجة.