كيف خفّضت TGS وAWS مدة تدريب نموذج ذكاء اصطناعي زلزالي من ستة أشهر إلى خمسة أيام

حقّقت TGS بالتعاون مع AWS نتيجة نادرة في المشاريع الكبرى للذكاء الاصطناعي: فقد أمكن تقليص تدريب نموذج زلزالي أساسي (foundation model)، كان يستغرق نحو ستة أشهر، إلى خمسة أيام. وفي الوقت نفسه، زاد الفريق حجم نافذة السياق، أي كمية البيانات الجيولوجية ثلاثية الأبعاد التي يستطيع النموذج تحليلها في تمريرة واحدة. وبالنسبة إلى الشركات العاملة في استكشاف باطن الأرض، يعني ذلك دورات تطوير أسرع وصورة أكثر اكتمالًا للبنى تحت السطحية.

تعمل TGS مزوّدًا للبيانات الجيولوجية لقطاع الطاقة. وتستخدم الشركة نماذج زلزالية أساسية (foundation models) لتحليل مصفوفات 3D معقّدة بهدف العثور على بنى جيولوجية مهمة للاستكشاف والإنتاج. وتقوم البنية الأساسية للنموذج على Vision Transformer ومخطط التدريب Masked AutoEncoder. والمشكلة الرئيسية هنا لا تتعلق بحجم النموذج وحده، بل بطبيعة البيانات أيضًا: فالأحجام الزلزالية تتألف من مليارات النقاط، وتُخزَّن بصيغ متخصصة، وتتطلب تغذية مستمرة لوحدات GPU دون أي توقف.

نقلت الشركة التدريب، بالتعاون مع AWS Generative AI Innovation Center، إلى Amazon SageMaker HyperPod، وجمعت عنقودًا من 16 عقدة Amazon EC2 P5. وضمّت كل عقدة 8 وحدات GPU من طراز NVIDIA H200 بذاكرة HBM3e سعتها 141 غيغابايت، و192 vCPU، و2 تيرابايت من الذاكرة العشوائية، وشبكة EFAv3 بسرعة 3200 غيغابت/ث. ويبلغ المجموع 128 GPU. ووفق بيانات AWS، حقّقت هذه التهيئة توسّعًا شبه خطي: فقد ظلّت كفاءة العمل المتوازي عند نحو 90–95% مع الانتقال من عقدة واحدة إلى 16 عقدة.

وتركّز اهتمام خاص على خط أنابيب البيانات. فبدلًا من المخطط التقليدي القائم على Amazon FSx for Lustre، اختار الفريق البثّ المباشر من Amazon S3. والسبب بسيط: مع نمو العنقود، يتيح S3 لكل عقدة إضافة سعة نقل خاصة بها، بينما يتحوّل نظام الملفات المشترك أسرع إلى عنق زجاجة. ويُخزَّن مجموعة بيانات التدريب لدى TGS بصيغة MDIO التي طوّرتها الشركة استنادًا إلى Zarr، وهي محسّنة للبيانات العلمية الكبيرة في السحابة. وبعد ضبط التحميل متعدد الخيوط والجلب المسبق (prefetching)، كانت كل عقدة تتلقى بثبات 4–5 غيغابايت/ث، والعنقود بأكمله 64–80 غيغابايت/ث. كما خفّض ذلك تكاليف البنية التحتية للتخزين بأكثر من 90%.

وللتدريب الموزّع، قارن الفريق عدة مقاربات: DeepSpeed ZeRO-2 وZeRO-3 وFSDP2. وقدّم ZeRO-2 أفضل توازن بين السرعة وتوفير الذاكرة: 1 974 عينة في الثانية مقابل 1 833 لـFSDP2 و869 لـZeRO-3. وهذا مهم لأن أقصى توفير للذاكرة في مثل هذه المهام لا يمنح دائمًا أفضل نتيجة نهائية: فإذا أصبح التبادل بين وحدات GPU مكلفًا أكثر من اللازم، ينخفض الإنتاجية (throughput) بشكل حاد. وفي هذا المشروع، لم يراهن الفريق على الخيار الأكثر كثافة من الناحية النظرية، بل على التهيئة التي تُنجز التدريب فعليًا بأسرع وقت في سيناريو الإنتاج.

ويرتبط الإنجاز الرئيسي الثاني بتوسيع نافذة السياق. فبالنسبة إلى النماذج الزلزالية، يؤثر ذلك مباشرة في جودة التحليل: فكلما رأى النموذج حجمًا أكبر من الصخور في تمريرة واحدة، التقط بصورة أفضل التفاصيل المحلية، مثل الشقوق الصغيرة، والأنماط الكبيرة، مثل منظومات الصدوع على نطاق الحوض بأكمله. وبفضل context parallelism وتكييف ring attention مع بنية ViT للبيانات ثلاثية الأبعاد، ارتفع الحجم الأقصى للمدخلات من 640 x 640 x 1 024 إلى 1 536 x 1 536 x 2 048 فوكسل. وزاد طول السياق من 102 400 إلى 1,17 مليون رمز (token)، وزاد الحجم المحلَّل بنحو 4,5 مرة.

والمغزى العملي لهذه الحالة أن بإمكان TGS الآن تحديث نماذجها لا مرة كل نصف عام، بل أسبوعيًا فعليًا، وإدخال البيانات الجيولوجية الجديدة بسرعة أكبر، وتزويد العملاء بسياق تحليل أوسع. وبالنسبة إلى AWS، هذا مثال آخر على أن النماذج الأساسية المتخصصة في العلوم والصناعة لا تصطدم بحدود بنية النموذج وحدها، بل بحسن تنظيم البيانات والشبكة والتدريب الموزّع أيضًا. أما الرسالة إلى السوق عمومًا فواضحة: بدأ الذكاء الاصطناعي المتخصص جدًا يتفوّق حيث كانت تهيمن سابقًا دورات الحوسبة الطويلة والبنية التحتية الباهظة التكلفة.