Google تضاعف ذاكرة TPU وقدرتها الحاسوبية في رف واحد

عندما يحلل وكيل مستودعًا برمجيًا كبيرًا، قد لا تكفي ذاكرة المسرّع لاستيعاب النموذج وسياق العمل. وعند معالجة مستندات سرية، يبرز سؤال آخر: من يستطيع الوصول إلى البيانات أثناء إجراء العمليات الحسابية؟ تقدم Google إعدادين جديدين لوحدات TPU لتلبية هذين الاحتياجين. وبالنسبة إلى فريق يختار بنيته التحتية، يعني ذلك إضافة خيار آخر إلى الاختبارات المقارنة.

بحسب The Decoder، وسّعت Google الجيل الثامن من مسرّعاتها بإضافة نظامي TPU 8i Max وTPU 8tx. وباحتساب الإصدارات السابقة، تقول الشركة إن إجمالي أنظمة TPU بلغ أربعة خلال العام. ومن المهم هنا التمييز بين المعالج والنظام المبني حوله: فكلا النظامين الجديدين يستخدم شرائح موجودة بالفعل. وتشمل التغييرات ترتيب الشرائح والذاكرة واتصالات الشبكة.

شريحتان لاستيعاب مزيد من العمل

في TPU 8i Max، وضعت Google شريحتي TPU 8i في حزمة واحدة. وتقول الشركة إن ذلك يضاعف القدرة الحاسوبية وسعة الذاكرة وعرض نطاقها، مع الحفاظ على مقاس الرف نفسه. وبالنسبة إلى مركز البيانات، يتمثل الوعد في توفير موارد حاسوبية أكبر ضمن المساحة نفسها.

لنتصور خدمة يعمل فيها عدة وكلاء بالتزامن على دراسة الشيفرة وقراءة الوثائق واقتراح الإصلاحات. فإلى جانب أوزان النموذج، تحتاج البنية التحتية إلى تخزين البيانات الوسيطة الناتجة عن معالجة الطلبات. وكلما طال السياق وازداد عدد المستخدمين المتزامنين، زاد الضغط على الذاكرة. وقد تتيح السعة الإضافية معالجة طلبات أثقل أو زيادة عدد المهام المنفذة بالتوازي.

لكن مضاعفة الموارد المادية لا تعني بحد ذاتها مضاعفة سرعة التطبيق. فالنتيجة تعتمد على النموذج وطول الطلبات وتنظيم العمليات الحسابية والموضع الدقيق الذي ينشأ فيه التأخير. وإذا كانت الخدمة تنتظر استجابة من واجهة API خارجية، فلن تعالج الذاكرة الإضافية في المسرّع هذا الجزء من العمل.

لا تتضمن المادة المقدمة أسعارًا أو قياسات مستقلة أو مقارنة تفصيلية لاستهلاك الطاقة. لذلك لا يمكن الاستنتاج من الإعلان مقدار انخفاض تكلفة الطلب، أو عدد المستخدمين الذين يمكن لمنتج معين خدمتهم. وسيتعين الحصول على هذه الأرقام من خلال الاختبارات.

حماية البيانات أثناء العمليات الحسابية

يستهدف TPU 8tx الشركات والجهات الحكومية التي تتعامل مع بيانات سرية. فالتشفير أثناء التخزين والنقل يعالج جزءًا فقط من المسألة: خلال المعالجة، تصبح البيانات عادة متاحة لبيئة الحوسبة بصورتها غير المشفرة. وبحسب Google، يحمي النظام الجديد البيانات وأوزان النموذج ويعزلها أيضًا أثناء استخدامها الفعلي.

قد ترغب مؤسسة، مثلًا، في إجراء ضبط دقيق لنموذج باستخدام مستنداتها الداخلية، ثم اشتقاق نموذج أصغر منه للعمل اليومي. وتصف Google إمكانية إجراء الضبط الدقيق وتقطير النماذج وتدريب الوكلاء بالتعلم المعزز داخل نظام واحد، من دون نقل البيانات الحساسة بين عناقيد حوسبة مختلفة.

في هذا السيناريو، تكتسب منظومة الحماية بأكملها أهمية. فلا يمكن الاستنتاج من وصف موجز أن النظام يغطي جميع التهديدات أو يستوفي تلقائيًا متطلبات مؤسسة بعينها. وقبل اختيار البنية التحتية، يجب دراسة حدود العزل وإدارة المفاتيح وشروط الوصول. وتوفر Nvidia أيضًا إمكانات مماثلة للحوسبة السرية، لذا ينبغي مقارنة التطبيقات الفعلية لهذه التقنيات.

قابلية نقل الشيفرة ستحدد الفائدة العملية

لا تفيد المواصفات المادية كثيرًا إذا كان نقل التطبيق يتطلب إعادة كتابة جزء كبير من شيفرته. وبحسب المادة، أتاحت Google الشيفرة المصدرية لـ TorchTPU لتسهيل تشغيل PyTorch على TPU، كما أعلنت دعم vLLM وSGLang. وقد يخفض ذلك عتبة البدء، لكن الوعد بالاكتفاء بتعديلات طفيفة يظل بحاجة إلى اختبار مع الاعتماديات البرمجية وعمليات النموذج الخاصة بكل فريق.

الخطوة العملية التالية هي تنفيذ مشروع تجريبي صغير بعبء عمل حقيقي. وبالنسبة إلى TPU 8i Max، ينبغي قياس استهلاك الذاكرة ومعدل معالجة الخدمة وزمن الاستجابة عند تزامن الطلبات. أما TPU 8tx، فيضاف إلى ذلك التحقق من استيفاء متطلبات السرية. وفي الحالتين، يجب احتساب التكلفة الكاملة لتشغيل عبء العمل، بما يشمل النقل والصيانة.

بالنسبة إلى المؤسس أو مدير المنتج، تكمن دلالة الخبر في اتساع خيارات البنية التحتية. فإذا كان المنتج يصطدم بالفعل بحدود الذاكرة أو متطلبات حماية البيانات، فإن وحدات TPU الجديدة تستحق الاختبار. أما قرار الانتقال فسيأتي بعد القياسات: فمجرد الإعلان عن أربعة إعدادات لا يثبت الجدوى الاقتصادية للتطبيق.