Ürünler

High Bandwidth Memory

En son haberleri, açıklamaları ve bağlantılı teknoloji hikâyelerini takip edin.

Son haberler

CN
Yüksek bant genişlikli flaş bellek, büyük dil modeli hizmet süresini %87’ye kadar azaltabilir

Yüksek bant genişlikli flaş bellek, büyük dil modeli hizmet süresini %87’ye kadar azaltabilir

UC Berkeley ve FuriosaAI tarafından hazırlanan bir çalışma, büyük dil modelleri çalıştırılırken yapay zekâ hızlandırıcılarının belleğini genişletmek için High Bandwidth Flash kullanımını inceliyor. Simülasyonlar, tamamlanma süresinde %87’ye varan azalma ve önbellek farkındalıklı zamanlama yoluyla enerji tüketiminde iyileşmeler ile yazma ömrünün uzatılabileceğine işaret ediyor.

CN
Neden İleri Düzey Paketleme Altlıkları Her Uygulama İçin Uzmanlaşmış Tasarımlara Yöneliyor?

Neden İleri Düzey Paketleme Altlıkları Her Uygulama İçin Uzmanlaşmış Tasarımlara Yöneliyor?

Altlık üretim kapasitesi artık ileri düzey paketlemenin ihtiyaçlarını karşılamak için yeterli bir ölçüt değil; paket boyutu, katman sayısı, bağlantı hassasiyeti ve entegre işlevler her tasarımı özel bir üretim sürecine daha yakın hale getiriyor. Bu durum özellikle yapay zekâ, yüksek performanslı bilgi işlem, entegre optik ve otomotiv paketlerinde malzemeleri, ekipmanları, yeterlilik süreçlerini ve tedarik kaynaklarını etkiliyor.

CN
REACH, yapay zekâ modeli çıkarımı sırasında HBM’yi bellek hatalarından korumak için daha düşük maliyetli bir mimari öneriyor

REACH, yapay zekâ modeli çıkarımı sırasında HBM’yi bellek hatalarından korumak için daha düşük maliyetli bir mimari öneriyor

Rensselaer Polytechnic Institute ve IBM’den araştırmacılar, büyük dil modeli çıkarım iş yüklerinde kod çözme maliyetini azaltmayı hedefleyerek, HBM denetleyicisi içinde uzun kapsamlı hata düzeltme kodlarını yönetmek için REACH mimarisini sundu. Fikir, yaygın hatalar için dahili kodlara ve silinmiş olduğu bilinen bölümleri düzeltmek için harici bir koda dayanıyor.