İleri teknoloji araştırma merkezi imec'teki araştırmacılar, "HBM-on-GPU'nun Ötesinde: 3D DRAM Entegrasyonunun GPU'larla Termal Tasarım Çerçevesi" başlıklı bir araştırma makalesi yayınlayarak, mevcut Yüksek Bant Genişlikli Bellek (HBM) teknolojilerinin karşılaştığı termal kısıtlamaları aşmayı amaçlayan yenilikçi bir bellek mimarisini tanıttılar.
Dikey Yığınlama Mimarisi
Önerilen mimari, geleneksel doğrudan yığınlama veya 2.5D paketleme teknolojilerine güvenmek yerine, Dinamik Rastgele Erişim Belleği (DRAM) yongalarını döndürmeyi ve bunları Grafik İşlem Birimi'nin (GPU) üzerine dikey olarak yerleştirmeyi temel alıyor. Bu yoğun yığınlamadan kaynaklanan termal zorlukları yönetmek için araştırmacılar, bellek katmanları arasına soğutma kanalları entegre etmeyi önerdiler.
Pratikte neler değişiyor?
Bu araştırmanın önemi, veri merkezlerinin ve yapay zeka işlemcilerinin performansını sınırlayan termal darboğazı ele almasında yatmaktadır. Paket düzeyindeki termal simülasyonlar aracılığıyla ekip, aşağıdakileri içeren çeşitli teknik değişkenleri değerlendirdi:
- Yığın yüksekliği ve bunun soğutma verimliliği üzerindeki etkisi.
- Bellek kapasitesi ve yapısal organizasyonu.
- Soğutma kanallarında kullanılan malzemeler.
- Bellek denetleyicisi ve çip üstü ağ (NoC) için özel bir katman eklenmesi.
Bu yaklaşımlar, mühendislerin "termal tasarım çerçevesini" genişletmelerine olanak tanıyor; bu da aşırı ısınma nedeniyle performans kararlılığından ödün vermeden işlemciye yakın bellek yoğunluğunu artırmanın mümkün olduğu anlamına geliyor. Bu durum, yeni nesil yapay zeka hızlandırıcıları ve yüksek performanslı hesaplama (HPC) sistemlerinin geliştirilmesi için hayati önem taşıyor.
Teknik Etkiler
Bu araştırma, bellek ve işlemci arasındaki entegrasyonu (Sistem-Teknoloji Ortak Optimizasyonu) iyileştirmeye yönelik bir adımı temsil ediyor; burada zorluk sadece kapasiteyi artırmakla kalmıyor, aynı zamanda bileşenlerin üç boyutlu bir alanda yakınlaşmasından kaynaklanan ısının nasıl yönetileceği konusuna odaklanıyor. Bu çalışma, tasarımcıların gelişmiş paketleme sistemlerinde termal performans ve bellek kapasitesi arasındaki ödünleşimleri değerlendirmeleri için bir referans çerçevesi sağlıyor.