شبكة عصبية أكثر كفاءة: كيف حسّنت Apple عملية الاستدلال (inference)
نشرت Apple ML Research دراسة بعنوان «Conformal Thinking»، وهي إطار يعيد صياغة مسألة ميزانية الرموز في نماذج LLM الاستدلالية. فبدلًا من ضبط العتبات يدويًا، يوفّر المنهج ضمانًا رياضيًا بأن نسبة الأخطاء لن تتجاوز القيمة المحددة، مع أدنى استهلاك ممكن للرموز. يقوم الإطار على التنبؤ المطابق (conformal prediction)، الذي يمنح ضمانات إحصائية قابلة للتحقق على بيانات جديدة.
معالج بواسطة الذكاء الاصطناعي من Apple ML Research؛ بتحرير Hamidun News
طوّر باحثو Apple طريقة لتحسين أداء الشبكات العصبية، إذ يتيح منهج Conformal Thinking التحكم في الأخطاء مع خفض تكاليف الاستدلال (inference).
لماذا يُعدّ تحسين تكاليف الشبكة العصبية مهمًا؟
توسّع نماذج الاستدلال الحديثة حجم الحوسبة بحسب عدد الرموز: كلما زاد عدد الرموز المخصصة للمعالجة، ارتفعت الدقة. ولذلك ينبغي تحديد ميزانية الرموز الصحيحة لكل طلب مسبقًا، لتجنب النفقات الزائدة دون خسارة في الجودة.
ماذا يحدث عندما تكون ميزانية الرموز غير كافية؟
يقطع النموذج سلسلة الاستدلال، ما يؤدي إلى أخطاء في النتائج.
Access Frontier LLMs & Multimodal AI in One Workspace
Discover NomadNet AI (nomadnet.ai) — unified access to frontier language models, research synthesis, and multimodal workflows.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.