ورشة مجانية 21–22.11ورشة مجانية لمدة يومين في Vibecoding يومي 21–22 نوفمبر الساعة 16:00 بتوقيت موسكو · الدفعة 3 تبدأ 23.11سجّل مجاناً ←الدفعة 3 (23.11)
إصدارتحليل · على الرادارPyTorch Blog→ المصدر

Google وMeta تعلّمان PyTorch العمل على TPU: 5000 نموذج من Hugging Face تعمل مباشرة دون إعداد

أطلقت Google وMeta واجهة TorchTPU المفتوحة، وهي تشغّل كود PyTorch المعتاد على رقائق الذكاء الاصطناعي من Google (TPU)، وليس على بطاقات الرسوميات وحدها. كان ذلك يتطلب سابقًا JAX أو PyTorch/XLA القديم مع تعديل الكود وانتظار تجميع طويل. أما الآن فيكفي في الحالة البسيطة تغيير الجهاز من cuda إلى tpu، لتعمل مباشرة أكثر 5000 نموذج تحميلًا على Hugging Face. وأصبحت تجربة النقل من GPU إلى TPU أرخص بوضوح.

معالج بواسطة الذكاء الاصطناعي من PyTorch Blog؛ بتحرير Hamidun News
Google وMeta تعلّمان PyTorch العمل على TPU: 5000 نموذج من Hugging Face تعمل مباشرة دون إعداد
المصدر: PyTorch Blog. كولاج: Hamidun News.
استمع للمقال
بطاقة الحقائق والأرقام
المعيارالتفاصيل
المصدر الأصليPyTorch Blog ↗
رئيس التحرير
حقيقة رئيسية #1نحو 450 عملية من Aten، تشمل التمرير الأمامي والخلفي
حقيقة رئيسية #2يعمل بالفعل في بيئة الإنتاج لدى بعض أكبر عملاء Google Cloud
لا يمكن بلوغ السرعة القصوى بالاستبدال وحدهأشكال المصفوفات والتجزئة (sharding) مصمَّمة لـ GPU

تكتب معظم فرق الذكاء الاصطناعي نماذجها بـ PyTorch وتشغّلها على بطاقات الرسوميات، وغالبًا من Nvidia. وتملك Google رقائق ذكاء اصطناعي خاصة بها هي معالجات TPU (وحدات المعالجة الموتّرية)، وهي أكثر كفاءة من حيث الطاقة والتكلفة، لكن الكود المألوف لم يكن يعمل عليها ببساطة: كان لا بد من JAX أو TensorFlow. والآن أطلقت Google، بالتعاون مع فريق PyTorch في Meta، TorchTPU، وهي واجهة خلفية (backend) مفتوحة المصدر، أي طبقة تترجم أوامر PyTorch إلى لغة TPU. بدأ المشروع في منتصف 2025. وبحسب المؤلفين، يعمل بالفعل في بيئة الإنتاج لدى بعض أكبر عملاء Google Cloud، سواء للاستدلال (إجابات النموذج الجاهز) أو للتدريب. وتعمل مباشرة 5000 نموذج هي الأكثر تحميلًا من Hugging Face، أكبر فهرس للشبكات العصبية الجاهزة.

لماذا لم تنجح المحاولة السابقة

صدرت أول نسخة من PyTorch لـ TPU، وهي PyTorch/XLA، عام 2020. ووفق وصف المؤلفين، كانت لها أربع مشكلات. كان على المطوّر أن يتدخل في الكود المصدري ويحدد يدويًا المقاطع المطلوب تجميعها. وكان التجميع يؤخر بدء التشغيل كثيرًا. ولم يكن وضع eager المعتاد، الذي تُنفَّذ فيه كل عملية فورًا، مدعومًا. أما الأساليب الجديدة للحوسبة الموزعة في PyTorch نفسه فكانت تصل إليه متأخرة.

تخيّل أن لديك سكربت تدريب يعمل على GPU. في المخطط القديم كان عليك إعادة كتابته ليلائم خصائص TPU. أما TorchTPU فبُني بالعكس: وضع eager له الأولوية، ويجب أن تعمل البرامج الحالية بأقل قدر من التعديلات.

ما الذي تغيّر في النهج

حدد المؤلفون مسبقًا مجموعة من المبادئ. لا يعتمد وقت التشغيل على JAX. ويُستخدم Torch Dynamo مع torch.compile، ويُفترض أن يقارب الأداء ما يحققه التجميع في JAX. وتُدعم أساليب DDP وFSDP وDTensor الموزعة على أدنى مستوى في PyTorch. وتُختزل العمليات الجماعية (تبادل البيانات بين الرقائق) إلى عمليات StableHLO بدلًا من مكتبة منفصلة مثل NCCL. ويجب أن تظهر أخطاء وقت التشغيل والمترجم برسائل مفهومة.

وعمليًا يبدو النقل هكذا: بدلًا من torch.device("cuda") تكتب torch.device("tpu")، وبدلًا من الواجهة الخلفية nccl تكتب tpu_dist. ويمكنك أيضًا ألا ترتبط بعتاد بعينه وتستخدم torch.accelerator.current_accelerator(). وإذا كانت حزمة TorchTPU مثبّتة على الجهاز، فسيلتقطها PyTorch عبر آلية autoload.

ويحذّر المؤلفون بصراحة: لا يمكن بلوغ السرعة القصوى بهذا الاستبدال وحده. فقد تكون أشكال المصفوفات (tensors) والتجزئة (sharding) ومجموعة العمليات في النموذج مصمَّمة لـ GPU، لكن النموذج يجب أن يعمل فورًا.

ما الذي جرى التحقق منه

أُعلن عن دعم نحو 450 عملية من Aten، تشمل التمرير الأمامي والخلفي لجميع العمليات الأساسية التي تحتاجها المعماريات الرئيسية. وتتوفر وضعيتا eager وcompiled، ومنها وضع DeferAndFuse الجديد. ويمكن كتابة نوى مخصصة عبر JAX/Pallas وHelion DSL. وجرى التحقق من التوافق مع Transformers v5 وDiffusers وKernels. ومن النماذج التي تعمل مباشرة: Qwen وDeepSeek وGemma وLlama وMistral وWhisper وCLIP وViT وBERT وT5. وتأكد دعم التجزئة على DTensor، والاستدلال متعدد المضيفين في vLLM وSGLang، والتدريب في TorchTitan، والتنسيق عبر Ray.

وتناولت الوثيقة الدقة بشكل منفصل. الصيغة الأساسية لضرب المصفوفات على TPU هي bfloat16 (عدد من 16 بت) مع تجميع النتيجة بصيغة 32 بت. وتفعّلها TorchTPU افتراضيًا، وتكفي دقتها للغالبية العظمى من المهام. وهناك أوضاع دقة أعلى، لكن ثمنها السرعة: ما يقارب ثلاثة أضعاف التكلفة الحسابية لوضع high، وما يقارب ستة أضعافها لوضع highest. ويُنصح بتفعيلها فقط إذا واجهت مشكلات في تقارب التدريب.

القيود

لا يمكن لأكثر من عملية مستخدم واحدة الوصول إلى جهاز TPU الواحد. لذلك يعتمد TorchTPU مخطط «عملية واحدة لكل جهاز»، بخلاف JAX الذي يخصص عملية واحدة لكل مضيف. ولهذا السبب لا تعمل حاليًا مباشرة، دون إعداد إضافي، مهام التعلم المعزز (RL) المتشاركة في موضع واحد، ويبحث الفريق عن حل بديل.

القيد الثاني: يتوقع مترجم XLA أن تكون أحجام المصفوفات معروفة مسبقًا. وهذا غير مريح لـ PyTorch، لذا تُضاف «الديناميكية المحدودة». فالأحجام القصوى معروفة في مرحلة التجميع، أما الأحجام الدقيقة فتُحدد أثناء التشغيل. وبهذا يمكن تفادي إعادة التجميع غير الضرورية عند تغيّر الشكل.

ماذا تفعل عمليًا: إذا كنت تفاضل بين GPU وTPU من حيث تكلفة الاستدلال أو التدريب، فقد أصبحت التجربة أرخص الآن. شغّل نموذجك على TPU بأقل قدر من التعديلات تقريبًا، وانظر أين يصطدم بأشكال المصفوفات والتجزئة. وهناك سيكون العمل الأساسي في التحسين.

القصة

أسئلة وأجوبة حول الخبر

ما أبرز التفاصيل حول لماذا لم تنجح المحاولة السابقة؟

صدرت أول نسخة من PyTorch لـ TPU، وهي PyTorch/XLA، عام 2020. ووفق وصف المؤلفين، كانت لها أربع مشكلات. كان على المطوّر أن يتدخل في الكود المصدري ويحدد يدويًا المقاطع المطلوب تجميعها. وكان التجميع يؤخر بدء التشغيل كثيرًا. ولم يكن وضع eager المعتاد، الذي تُنفَّذ فيه كل عملية فورًا، مدعومًا. أما الأساليب الجديدة للحوسبة الموزعة في PyTorch نفسه فكانت تصل إليه متأخرة. تخيّل أن لديك سكربت تدريب يعمل على GPU. في المخطط القديم كان عليك إعادة كتابته ليلائم خصائص TPU.

ما أبرز التفاصيل حول ما الذي تغيّر في النهج؟

حدد المؤلفون مسبقًا مجموعة من المبادئ. لا يعتمد وقت التشغيل على JAX. ويُستخدم Torch Dynamo مع torch.compile، ويُفترض أن يقارب الأداء ما يحققه التجميع في JAX. وتُدعم أساليب DDP وFSDP وDTensor الموزعة على أدنى مستوى في PyTorch. وتُختزل العمليات الجماعية (تبادل البيانات بين الرقائق) إلى عمليات StableHLO بدلًا من مكتبة منفصلة مثل NCCL. ويجب أن تظهر أخطاء وقت التشغيل والمترجم برسائل مفهومة. وعمليًا يبدو النقل هكذا: بدلًا من torch.device("cuda") تكتب torch.device("tpu")، وبدلًا من الواجهة الخلفية nccl تكتب tpu_dist.

ما أبرز التفاصيل حول ما الذي جرى التحقق منه؟

أُعلن عن دعم نحو 450 عملية من Aten، تشمل التمرير الأمامي والخلفي لجميع العمليات الأساسية التي تحتاجها المعماريات الرئيسية. وتتوفر وضعيتا eager وcompiled، ومنها وضع DeferAndFuse الجديد. ويمكن كتابة نوى مخصصة عبر JAX/Pallas وHelion DSL. وجرى التحقق من التوافق مع Transformers v5 وDiffusers وKernels. ومن النماذج التي تعمل مباشرة: Qwen وDeepSeek وGemma وLlama وMistral وWhisper وCLIP وViT وBERT وT5. وتأكد دعم التجزئة على DTensor، والاستدلال متعدد المضيفين في vLLM وSGLang، والتدريب في TorchTitan، والتنسيق عبر Ray.

ZK
جمال حميدون — مدير المنتجات في Alpina Digital ومدير منتج AlpinaGPT. يبني منتجات الذكاء الاصطناعي منذ 2019. بدأ Hamidun News كمشروع شخصي ثم أصبح مُجمِّعًا إنتاجيًا بأكثر من 6000 قارئ.
✦ Unified AI Workspace · Nomad

Test Frontier LLMs & Autonomous Agents in One Workspace

Run Claude Opus 5.5, GPT-6, Gemini 3.1, and DeepSeek side-by-side in Nomad AI (nomadnet.ai) — unified model routing, deep research, and multimodal workflows under one subscription.

Try Nomad AI →Launch Nomad Agent
ما رأيك؟
جارٍ تحميل التعليقات…