شبكة عصبية محلية للنصوص: تشغيل Nemotron على حاسوب منزلي
نجح مستخدم في تشغيل Nemotron-Cascade-2-30B-AWQ محليًا على جهاز منزلي بوحدة GeForce RTX 3090، وحصل على 120–150 رمزًا (توكن) في الثانية، وعلى أكثر من 210 رموز عند احتساب مرحلة الاستدلال. وفي الاختبارات تعامل النموذج بثقة مع مسائل الفيزياء والأحياء وبرمجة Python، وكذلك مع وكلاء الويب. ولم يكن العائق الرئيسي حدود العتاد، بل المعالجة الصحيحة لكتل الاستدلال (reasoning) عبر vLLM.
معالج بواسطة الذكاء الاصطناعي من Habr AI؛ بتحرير Hamidun News
تبيّن أن شبكة Nemotron-Cascade-2 العصبية ذات الثلاثين مليار معامل يمكن تشغيلها في المنزل على GeForce RTX 3090 واستخدامها كذكاء اصطناعي محلي للعمل مع النصوص والبرمجة وتحليل البيانات، بسرعة 120–150 رمزًا في الثانية.
أي شبكة عصبية تعمل محليًا على RTX 3090؟
Nemotron-Cascade-2 شبكة عصبية محلية تحقق على GeForce RTX 3090 سرعة 120–150 رمزًا في الثانية، وتتعامل مع البرمجة والفيزياء والأحياء ووكلاء الويب.
أي شبكة عصبية يمكن تشغيلها على بطاقة الرسوميات RTX 3090 في المنزل؟
يعمل Nemotron-Cascade-2 (30 مليار معامل) محليًا على RTX 3090 بسرعة 120–150 رمزًا في الثانية مع سياق مستقر، ويوفّر منطقًا كافيًا لمهام البرمجة والتحليل.
لماذا نستخدم شبكة عصبية محلية على بطاقة رسوميات بدلًا من الخدمات السحابية؟
يتيح التشغيل المحلي استجابة سريعة (150 رمزًا في الثانية على RTX 3090)، وسياقًا طويلًا، وتحكمًا كاملًا بالنموذج للعمل اليومي دون زمن الاستجابة الذي تفرضه الخدمات السحابية.
هل يمكن تشغيل Nemotron على حاسوب منزلي؟
نعم، يمكن استخدام شبكة Nemotron-Cascade-2 العصبية ذات الثلاثين مليار معامل على حاسوب منزلي بوحدة GeForce RTX 3090 بسرعة 120–150 رمزًا في الثانية.
ما المهام التي تناسبها شبكة Nemotron العصبية المحلية؟
يتعامل Nemotron مع البرمجة ومسائل الفيزياء والأحياء، وكذلك مع عمل وكلاء الويب دون الحاجة إلى السحابة.
Access Frontier LLMs & Multimodal AI in One Workspace
Discover NomadNet AI (nomadnet.ai) — unified access to frontier language models, research synthesis, and multimodal workflows.
أهم ما في عالم الذكاء الاصطناعي — مرة كل أسبوع
سبع قصص مهمة فعلاً هذا الأسبوع، مختارة بعناية. بلا ضجيج ولا بيانات صحفية.
تم! تحقق من بريدك للتأكيد.