DeepSeek أسرع بأربع مرات: كيف يعمل نظام ATLAS لنماذج LLM
كشفت Together AI عن ATLAS، وهو مُخمِّن تكيّفي قائم على تعلّم الآلة (machine learning) يسرّع استدلال LLM بمقدار 4 مرات دون ضبط يدوي. يتعلّم النظام تلقائيًا ويتكيّف مع عبء العمل الخاص بك كلما استخدمته. على نموذج DeepSeek-V3.1 يصل النظام إلى 500 رمز (token) في الثانية. وهذا أسرع بمقدار 2.65 مرة من فك الترميز القياسي، ويتفوّق على أداء العتاد المتخصص من Groq.
معالج بواسطة الذكاء الاصطناعي من Together AI Blog؛ بتحرير Hamidun News
يتيح نظام ATLAS من Together AI تسريع استدلال نماذج LLM مثل DeepSeek-V3.1 وKimi-K2 بمقدار 4 مرات، ليصل إلى 500 و460 رمزًا في الثانية على التوالي، دون ضبط يدوي.
على أي النماذج يعمل ATLAS؟
يسرّع ATLAS نموذج DeepSeek-V3.1 حتى 500 رمز في الثانية ونموذج Kimi-K2 حتى 460 رمزًا في الثانية، ويتحسّن تلقائيًا كلما استُخدم.
ما هو فك الترميز التخميني (speculative decoding)؟
يُعدّ فك الترميز التخميني من أقوى الطرق لتسريع توليد النصوص في النماذج اللغوية. فبدلًا من الأسلوب القياسي الذي يولّد فيه النموذج رمزًا واحدًا في كل مرة، يتيح فك الترميز التخميني معالجة عدة رموز في وقت واحد.
ما مقدار تسريع ATLAS لنموذج DeepSeek؟
يسرّع ATLAS نموذج DeepSeek-V3.1 حتى 500 رمز في الثانية، أي تسريع بمقدار 4x. أما على Kimi-K2 فيصل النظام إلى 460 رمزًا في الثانية.
ما النتيجة التي يحققها ATLAS على DeepSeek؟
على DeepSeek-V3.1 يصل نظام ATLAS إلى 500 رمز في الثانية (تسريع يقارب 4x)، وعلى Kimi-K2 إلى 460 رمزًا في الثانية.
Access Frontier LLMs & Multimodal AI in One Workspace
Discover NomadNet AI (nomadnet.ai) — unified access to frontier language models, research synthesis, and multimodal workflows.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.