تتجه بنية مراكز بيانات الذكاء الاصطناعي نحو عناقيد حوسبة غير متجانسة تجمع بين وحدات المعالجة المركزية (CPUs)، ووحدات معالجة الرسوميات (GPUs)، ووحدات المعالجة العصبية (NPUs)، والمسرّعات المخصصة، إلى جانب الذاكرة عالية النطاق الترددي وتقنيات الربط النحاسية والبصرية. ويعكس هذا التحول اختلاف طبيعة مهام تدريب النماذج واستدلالها، ولا سيما مع تنامي تطبيقات الذكاء الاصطناعي الوكيلي التي تتطلب مزيجاً من الحسابات المتوازية، وإدارة الحالة، واتخاذ القرارات وتنفيذ استدعاءات الأدوات.
جاء ذلك في نقاش استضافته Semiconductor Engineering مع Satadal Bhattacharjee من Arm، وAshish Darbari من Axiomise، وMoshiko Emmer من Cadence، وSharad Chole من Expedera، وCameron Brunner من Siemens EDA، وSumit Vishwakarma من Synopsys. وتمثل المادة الجزء الثالث والأخير من سلسلة نقاشية حول تغير بنية مراكز بيانات الذكاء الاصطناعي.
من خادم قوي إلى نظام موزع
تغيّر العناقيد متعددة المعالجات طبيعة المشكلة الهندسية نفسها. فبدلاً من تصميم خادم واحد يوازن بين المعالجة والذاكرة والإدخال والإخراج، يصبح الأداء مرتبطاً بتقسيم أعباء العمل، وأنماط الاتصال، وقدرة شبكة الربط على نقل البيانات وتنفيذ عمليات المزامنة بكفاءة.
وأوضح المشاركون أن نماذج التوازي المختلفة، مثل Tensor parallel وdata parallel وcontext parallel وpipeline parallel، تحتاج إلى أشكال مختلفة من طوبولوجيا الشبكة. فالتوازي عبر خط أنابيب يربط مراحل متتابعة، بينما يتطلب التوازي التنسوري عمليات تجميع واسعة ثم بث النتائج مجدداً. لذلك يصبح اختيار شبكة الربط جزءاً من تعريف العنقود، وليس مكوناً منفصلاً عنه.
وتزداد أهمية الذاكرة مع تضخم النماذج. فإلى جانب معاملات النموذج الثابتة، هناك سياق متغير يتأثر بعدد الطلبات التي تتم معالجتها وحجم المعلومات التي يحتفظ بها النظام. ولهذا تبرز تكلفة ذاكرة HBM وطريقة استخدامها باعتبارهما عاملين مؤثرين في كفاءة وحدات GPU، خصوصاً داخل مراكز البيانات التي تسعى إلى زيادة عدد الطلبات المعالجة في الثانية.
تفكيك الاستدلال بين عناقيد متخصصة
يرى Satadal Bhattacharjee أن أحد الاتجاهات المهمة هو تفكيك خط أنابيب الاستدلال إلى مراحل منفصلة. تبدأ العملية بمرحلة prefill، التي تعالج المطالبة وتحدد المطلوب منها، وهي مرحلة كثيفة الحساب. ثم تأتي مرحلة decode التي تنشئ الاستجابة، تليها مرحلة تنفيذ المهام بواسطة الوكلاء، مثل استدعاء الأدوات أو تنفيذ إجراء محدد.
في هذا النموذج، يمكن تخصيص عنقود من العتاد والبرمجيات لمرحلة prefill، وعنقود آخر لمرحلة decode، وعنقود حسابي لتنفيذ مهام الوكلاء، ثم ربط هذه العناقيد معاً، غالباً عبر Ethernet وفق النقاش. ويتيح ذلك استخدام كل نوع من العتاد في المهمة التي يناسبها بدلاً من تشغيل GPU واحد لتنفيذ جميع المراحل.
وأشار Bhattacharjee إلى إعلان Nvidia استخدام Groq 3 LPU في عنقود prefill، باعتباره مثالاً على أن الاستدلال قد يحتاج إلى أكثر من نوع واحد من المعالجات. كما ذكر أن DigitalOcean أعلنت نشر بنية من خمس طبقات للاستدلال مهيأة لاستخدام عناقيد غير متجانسة تضم عتاداً من AMD وNvidia، مع إمكانية إضافة عتاد جديد لاحقاً.
البرمجيات هي حلقة التنسيق
لا يكفي جمع CPUs وGPUs وNPUs والمسرّعات في نظام واحد. إذ يجب أن تعرف البرمجيات خصائص كل مكوّن، وتقرر أين تنفذ كل مرحلة، وتنسق عمليات نقل البيانات والجدولة والانتظار ونقاط الوصول إلى الواجهات البرمجية. ويمكن لوحدات CPU تولي مهام إدارة الحالة وتوجيه التعليمات واستدعاء الأدوات، بينما تتولى المسرّعات الحسابات الكثيفة، بما فيها عمليات ضرب المصفوفات المرتبطة بالاستدلال والتفكير.
تُستخدم الآلات الافتراضية لتجريد العناقيد على مستوى أعلى، لكن المشاركين وصفوا البيئات المعتمدة على الحاويات، ومنها Docker، بأنها الطريقة السائدة لنشر المكونات وسلاسل أدوات تعريفات GPU بصورة قابلة للتكرار. وتبقى فوق طبقة الحاويات مكونات متخصصة للتشغيل والتنسيق والجدولة وإدارة الطوابير ونشر النماذج وخدمة الواجهات البرمجية.
واعتبر المشاركون أن امتلاك منظومة برمجية متكاملة يمثل أحد أسباب قوة Nvidia، بعدما استثمرت الشركة في البرمجيات لأكثر من 20 عاماً. لكن الانتقال إلى عتاد من شركات متعددة يفرض طبقة تنسيق قادرة على إدارة هذا التنوع. وذُكرت شركات مثل Gimlet Labs وTogether AI باعتبارها تعمل على توفير هذه الطبقة، بما يشمل تحسين تشغيل عناقيد prefill وdecode والتنفيذ.
الربط والطاقة يحددان قابلية التوسع
تشمل خيارات الربط بين العناقيد Ethernet وInfiniBand وSlingshot، وهي تقنية شبكات عالية السرعة قائمة على Ethernet من Hewlett Packard Enterprise. ووفق النقاش، يوفر Ethernet معياراً أوسع، بينما قد تقدم التقنيات المخصصة أداءً أفضل في حالات معينة مقابل الارتباط بمنظومة مورّد محدد.
كما يتزايد الاهتمام بالربط البصري، إذ تستخدم Google وحدات TPU مع وصلات بصرية، فيما يجري بحث تقنيات البصريات المدمجة داخل الحزمة (co-packaged optics). وتكمن جاذبية الفوتونات في تقليل المقاومة وتبديد الطاقة مقارنة بالوصلات الكهربائية، وهو أمر مهم في عناقيد تعاني أصلاً من تحديات الحرارة وتكلفة التبريد.
على مستوى الحزمة، يؤدي دمج عدة شرائح وذاكرة HBM ومكونات مختلفة إلى تعقيد التأثيرات الحرارية والميكانيكية والكهربائية. وقد تؤثر الحرارة أو الالتواء أو مشكلات الهجرة الكهربائية وسلامة الإشارة في أداء العقدة والعنقود بأكمله. لذلك لا توجد حاجة إلى تقنية ربط عالمية واحدة بقدر الحاجة إلى طبقات ربط متوافقة مع كل مستوى، من الوصل بين القوالب داخل الحزمة إلى شبكة العنقود.
لماذا يهم هذا الاتجاه؟
الخلاصة التي طرحها Bhattacharjee هي أن الطاقة تمثل المشكلة الأولى، فيما تأتي كفاءة الرموز في المرتبة التالية. وتقدم العناقيد غير المتجانسة مساراً لتقليل تكلفة الرمز عبر مواءمة العتاد مع طبيعة كل مرحلة، لكن تحقيق ذلك يتطلب برمجيات تنسيق ناضجة، وقياسات واضحة لموقع البيانات وعرض النطاق والحالة الحرارية وتخصص كل محرك. وبما أن هذه المنظومة تعتمد غالباً على مكونات من شركات متعددة، فإن بناء نظام يعمل بكفاءة على نطاق واسع يظل تحدياً هندسياً مفتوحاً، لا مجرد عملية استبدال GPU بمسرّع آخر.