توفير رموز LLM: استخدام TOON بدلاً من JSON في التعامل مع الشبكات العصبية
يستهلك JSON الرموز (tokens) بإسراف في مسارات عمل LLM بسبب تكرار أسماء الحقول. أما TOON (Token-Oriented Object Notation) فهو تنسيق مضغوط يقلّل استهلاك الرموز ويسرّع المعالجة. استخدموا JSON للتخزين، ثم حوّلوه إلى TOON عند إرسال الطلبات إلى LLM.
معالج بواسطة الذكاء الاصطناعي من KDnuggets؛ بتحرير Hamidun News
عند العمل مع النماذج اللغوية (LLM) في الشبكات العصبية، يترتّب على كل رمز (token) تكلفة، ولا سيما إذا كنتم تمرّرون بانتظام بيانات منظَّمة عبر JSON.
كيف توفّرون الرموز عند استخدام الذكاء الاصطناعي في الأعمال؟
استخدموا بدلاً من JSON تنسيقات بيانات أكثر إحكاماً، مثل TOON، لا تكرّر أسماء الحقول في كل سجل. وتزداد أهمية ذلك عند تمرير مصفوفات كبيرة من البيانات المنظَّمة إلى مسارات عمل LLM (LLM-pipelines)، إذ يترتّب على كل رمز تكلفة.
لماذا يفتقر JSON إلى الكفاءة عند العمل مع LLM والشبكات العصبية؟
تتكرر أسماء الحقول في JSON داخل كل سجل من سجلات المصفوفة، فتُهدَر الرموز دون فائدة. فمصفوفة من 100 سجل بالحقول id وname وemail وstatus تكرّر هذه الأسماء 100 مرة بدلاً من مرة واحدة.
ما هو TOON وكيف يوفّر الرموز؟
TOON تنسيق مضغوط للبيانات المنظَّمة تُذكر فيه أسماء الحقول مرة واحدة بدلاً من تكرارها في كل سجل كما في JSON. وهذا يعالج مشكلة استهلاك الرموز عند العمل مع مسارات عمل LLM.
Access Frontier LLMs & Multimodal AI in One Workspace
Discover NomadNet AI (nomadnet.ai) — unified access to frontier language models, research synthesis, and multimodal workflows.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.