المنتجات

High Bandwidth Memory

نوع من ذاكرة النطاق الترددي العالي تُستخدم في أحمال استدلال الذكاء الاصطناعي وتتناول الورقة حماية بياناتها من أخطاء الذاكرة.

أحدث التغطيات

CN
ذاكرة الفلاش عالية النطاق قد تخفّض زمن خدمة نماذج اللغة الكبيرة حتى 87%

ذاكرة الفلاش عالية النطاق قد تخفّض زمن خدمة نماذج اللغة الكبيرة حتى 87%

تبحث ورقة من UC Berkeley وFuriosaAI في استخدام High Bandwidth Flash لتوسيع ذاكرة مسرّعات الذكاء الاصطناعي عند تشغيل نماذج اللغة الكبيرة. وتشير المحاكاة إلى خفض زمن الإكمال بنسبة تصل إلى 87%، مع تحسينات محتملة في استهلاك الطاقة وإطالة عمر الكتابة عبر جدولة واعية بالتخزين المؤقت.

CN
لماذا تتجه ركائز التغليف المتقدم إلى تصميمات متخصصة لكل تطبيق؟

لماذا تتجه ركائز التغليف المتقدم إلى تصميمات متخصصة لكل تطبيق؟

لم تعد سعة إنتاج الركائز معياراً كافياً لتلبية احتياجات التغليف المتقدم؛ فحجم الحزمة، وعدد الطبقات، ودقة التوصيل، والوظائف المدمجة تجعل كل تصميم أقرب إلى عملية تصنيع متخصصة. ويؤثر ذلك في المواد والمعدات والتأهيل ومصادر التوريد، خصوصاً في حزم الذكاء الاصطناعي والحوسبة عالية الأداء والبصريات المدمجة والسيارات.

CN
REACH يقترح بنية أقل كلفة لحماية HBM من أخطاء الذاكرة أثناء استدلال نماذج الذكاء الاصطناعي

REACH يقترح بنية أقل كلفة لحماية HBM من أخطاء الذاكرة أثناء استدلال نماذج الذكاء الاصطناعي

قدم باحثون من Rensselaer Polytechnic Institute وIBM بنية REACH لإدارة أكواد تصحيح الأخطاء على نطاق طويل داخل متحكم HBM، مع استهداف تقليل كلفة فك الترميز في أحمال استدلال نماذج اللغة الكبيرة. تعتمد الفكرة على أكواد داخلية للأخطاء الشائعة وكود خارجي لإصلاح الأجزاء المعروفة بأنها محوَلة.