تواجه عمليات استدلال النماذج اللغوية الكبيرة (LLM) تحدياً متزايداً يتمثل في الحاجة إلى سعات ذاكرة هائلة لاستيعاب النماذج الضخمة وأحجام الدفعات (Batch sizes) المتزايدة. وبينما توفر الذاكرة ذات النطاق الترددي العالي (HBM) سرعة فائقة، إلا أن سعتها تظل محدودة ومكلفة. ومن هنا برزت فكرة استخدام الذاكرة الفلاشية عالية النطاق (High-Bandwidth Flash - HBF) كبديل، لكنها اصطدمت بعقبة زمن الوصول (Latency) المرتفع.
المقايضة الصعبة: السعة مقابل السرعة
تعتمد تقنية HBF على استبدال رقائق DRAM في ذاكرة HBM برقائق NAND flash، مما يوفر سعة تخزينية تصل إلى 16 ضعفاً بنفس نطاق عرض النطاق الترددي للقراءة. ومع ذلك، فإن هذا التطور يأتي بتكلفة تقنية باهظة؛ حيث يصل زمن وصول القراءة في HBF إلى حوالي 20 ميكروثانية، وهو ما يعادل 20 ضعف زمن وصول HBM التقليدية. هذا الفارق يؤدي إلى إبطاء عمليات الاستدلال بمعدل يصل إلى 12.8 مرة عند الاعتماد على الوصول المباشر للبيانات من HBF.
كيف تعالج تقنية SlipStream هذه الفجوة؟
قدم فريق بحثي مشترك من NVIDIA وجامعتي ستانفورد وجورجيا تيك ورقة بحثية بعنوان "SlipStream"، وهي تقنية تعتمد على التصميم المشترك بين البرمجيات والأجهزة (Software-hardware co-design) لتحويل عملية جلب البيانات المسبق (Prefetching) إلى خط إنتاج يعمل بنظام "المنتج والمستهلك" (Producer-consumer pipeline).
تعتمد آلية العمل على مستويين:
- على مستوى البرمجيات: تقوم التقنية بتحليل ترتيب طلب صفحات الأوزان (Weight-pages) المتكرر في نوى (Kernels) النماذج اللغوية، ثم تدرج "مرحلة تجهيز" (Staging warp) تقوم بإعادة تشغيل هذا الترتيب باستخدام تعليمات غير حاجبة (Non-blocking STAGE instructions).
- على مستوى الأجهزة: يعمل الـ "Staging warp" كمنتج للبيانات، بينما تعمل الـ "Work warps" كمستهلك لها. وتكمن العبقرية التقنية هنا في تتبع صفحات بحجم 4 كيلوبايت بدلاً من خطوط التخزين المؤقت (Cache lines) التقليدية، مما يقلل بشكل كبير من استهلاك ذاكرة SRAM.
ما الذي يتغير عملياً في الأداء؟
أظهرت الاختبارات التي أجريت على سبعة نماذج كثيفة تتراوح سعاتها بين 16 و800 جيجابايت، تفوقاً ساحقاً لتقنية SlipStream على التصاميم الحالية مثل H3. فبينما احتاج تصميم H3 إلى ذاكرة تخزين مؤقت ضخمة تصل إلى 320 ميجابايت لتحقيق أداء بنسبة 43.1% فقط من الأداء المثالي، استطاعت SlipStream تحقيق 92.4% من الأداء المثالي باستخدام ذاكرة تخزين مؤقت تبلغ 40 ميجابايت فقط.
والأهم من ذلك، أن حجم الذاكرة المطلوبة في SlipStream لا يعتمد على زمن وصول HBF أو نوع عبء العمل، مما يجعلها حلاً مرناً وقابلاً للتوسع. كما أثبتت التقنية كفاءتها في دعم نماذج "خليط الخبراء" (Mixture-of-Experts - MoE)، حيث حققت 91.2% من الأداء المثالي، مما يفتح آفاقاً جديدة لتشغيل أضخم نماذج الذكاء الاصطناعي بتكلفة أقل وسعات تخزين أكبر بكثير.
كيف أعددنا هذا الخبر؟
اعتمد الخبر على المصدر الأصلي الموضح أعلاه. قد نستخدم أدوات آلية للمساعدة في الاستخراج والتصنيف والصياغة،
لكن النشر يخضع لقواعد تمنع المحتوى المكرر والقصير أو الروتيني منخفض القيمة.
اقرأ سياستنا التحريرية.