NVIDIA Dynamo Snapshot: تسريع بدء تشغيل النماذج على Kubernetes
قدمت NVIDIA Dynamo Snapshot لتسريع بدء التشغيل البارد لنماذج الاستدلال على Kubernetes. خلال فترات الطلب المرتفع، غالباً ما تستغرق النسخ الجديدة دقائق للتحميل، م
◐ استمع للمقال
قدمت NVIDIA Dynamo Snapshot لتسريع بدء التشغيل البارد لنماذج الاستدلال على Kubernetes. خلال فترات الطلب المرتفع، غالباً ما تستغرق النسخ الجديدة دقائق للتحميل، مما يترك GPU معطلة ويخاطر بانتهاك اتفاقيات مستويات الخدمة. تقلل الأداة الجديدة أوقات التحميل من دقائق إلى ثوان.