Together AI Blog→ المصدر

الشبكات العصبية أسرع مرتين: FlashAttention-3 من NVIDIA

قدّمت Together AI خوارزمية FlashAttention-3، وهي خوارزمية جديدة لتسريع المحوّلات (Transformers) في النماذج اللغوية الكبيرة. وتعمل بضعف سرعة FlashAttention-2. وتصل نسبة استغلال وحدة GPU من طراز H100 الآن إلى 75% بدلًا من 35% سابقًا. وتدعم الخوارزمية الحوسبة بدقة منخفضة FP8 مع الحفاظ على دقة النتائج. ويتيح ذلك للنماذج اللغوية الكبيرة (LLM) معالجة المتواليات النصية الطويلة بكفاءة أعلى ودون إبطاء في الحوسبة، كما يخفّض التكاليف.

معالج بواسطة الذكاء الاصطناعي من Together AI Blog؛ بتحرير Hamidun News
الشبكات العصبية أسرع مرتين: FlashAttention-3 من NVIDIA
المصدر: Together AI Blog. كولاج: Hamidun News.
◐ استمع للمقال

باتت الشبكات العصبية تعمل أسرع بمعدل 1.5–2 مرة: فقد أطلقت Together AI وNVIDIA وMeta خوارزمية FlashAttention-3 لتسريع آلية الانتباه في المحوّلات، وهي تستغل 75% من قدرة وحدة GPU بدلًا من 35% سابقًا.

لماذا يوفّر تسريع الشبكات العصبية المال؟

تزداد كلفة الحوسبة السحابية، بينما تتطلب النماذج اللغوية الكبيرة (LLM) موارد أكثر فأكثر. وأصبح كل نقطة مئوية من الكفاءة تُحتسب اليوم بالمال.

ZK
Hamidun News
أخبار الذكاء الاصطناعي بدون ضوضاء. اختيار تحريري يومي من أكثر من 50 مصدر. منتج من جمال حميدون، رئيس الذكاء الاصطناعي في Alpina Digital.
✦ Unified AI Workspace

Access Frontier LLMs & Multimodal AI in One Workspace

Discover NomadNet AI (nomadnet.ai) — unified access to frontier language models, research synthesis, and multimodal workflows.

Try NomadNet AI →Launch NomadNet Agent
ما رأيك؟
جارٍ تحميل التعليقات…