En son haberleri, açıklamaları ve bağlantılı teknoloji hikâyelerini takip edin.
UC Berkeley ve FuriosaAI tarafından hazırlanan bir çalışma, büyük dil modelleri çalıştırılırken yapay zekâ hızlandırıcılarının belleğini genişletmek için High Bandwidth Flash kullanımını inceliyor. Simülasyonlar, tamamlanma süresinde %87’ye varan azalma ve önbellek farkındalıklı zamanlama yoluyla enerji tüketiminde iyileşmeler ile yazma ömrünün uzatılabileceğine işaret ediyor.
Altlık üretim kapasitesi artık ileri düzey paketlemenin ihtiyaçlarını karşılamak için yeterli bir ölçüt değil; paket boyutu, katman sayısı, bağlantı hassasiyeti ve entegre işlevler her tasarımı özel bir üretim sürecine daha yakın hale getiriyor. Bu durum özellikle yapay zekâ, yüksek performanslı bilgi işlem, entegre optik ve otomotiv paketlerinde malzemeleri, ekipmanları, yeterlilik süreçlerini ve tedarik kaynaklarını etkiliyor.
Rensselaer Polytechnic Institute ve IBM’den araştırmacılar, büyük dil modeli çıkarım iş yüklerinde kod çözme maliyetini azaltmayı hedefleyerek, HBM denetleyicisi içinde uzun kapsamlı hata düzeltme kodlarını yönetmek için REACH mimarisini sundu. Fikir, yaygın hatalar için dahili kodlara ve silinmiş olduğu bilinen bölümleri düzeltmek için harici bir koda dayanıyor.