الشركات

University of California, Berkeley

الجامعة التي شارك باحثوها في إعداد الورقة البحثية حول بنية الذاكرة المدعومة بـ HBF.

أحدث التغطيات

CN
ذاكرة الفلاش عالية النطاق قد تخفّض زمن خدمة نماذج اللغة الكبيرة حتى 87%

ذاكرة الفلاش عالية النطاق قد تخفّض زمن خدمة نماذج اللغة الكبيرة حتى 87%

تبحث ورقة من UC Berkeley وFuriosaAI في استخدام High Bandwidth Flash لتوسيع ذاكرة مسرّعات الذكاء الاصطناعي عند تشغيل نماذج اللغة الكبيرة. وتشير المحاكاة إلى خفض زمن الإكمال بنسبة تصل إلى 87%، مع تحسينات محتملة في استهلاك الطاقة وإطالة عمر الكتابة عبر جدولة واعية بالتخزين المؤقت.