Microsoft, en yeni AMD Helios yapay zekâ platformunu ve yeni nesil veri merkezi sınıfı EPYC işlemcilerini entegre ederek Azure'ın yapay zekâ ve yüksek performanslı bilgi işlem altyapısını genişlettiğini duyurdu. Bu teknolojiler, Azure'ın yakında sunacağı üç teklife güç verecek: veri işleme için HDv2, elektronik tasarım otomasyonu için HXv2 ve yapay zekâ çıkarımı iş yükleri için ND MI455X v7.
Bu adım, tek bir altyapının karşılayamayacağı bir hızla yapay zekâ iş yüklerinin büyüdüğü; model sayısının arttığı, ajan tabanlı yeni iş yüklerinin ortaya çıktığı ve bilgi işlem gücüne yönelik talebin yükseldiği bir dönemde geliyor. Microsoft, Azure'ın AMD gibi iş ortaklarının teknolojilerini, Microsoft'un kurum içinde geliştirdiği çipler ve sistemlerle bir araya getiren açık ve bileşenleri çeşitlendirilmiş bir platform sunma yolunda ilerlediğini belirtiyor. Amaç, müşterilere performans, maliyet ve enerji tüketimi verimliliği arasındaki dengeyi kurmak için daha geniş seçenekler sunmak.
Yapay zekâ sistemlerinin veri işlenmesi için HDv2
Azure HDv2 sanal makineleri, yapay zekâ sistemlerinde CPU tabanlı altyapıyla ilişkili darboğazları ele almak üzere tasarlandı. Hızlandırıcılar, verileri işlemek, iş yüklerini düzenlemek ve işlem hatlarının sürekliliğini korumak için yoğun ve enerji verimli bilgi işlem gücüne ihtiyaç duyarken eğitim ve ajan görevleri, modelleri beslemek ve görevleri yürütmek için yeterli kapasite gerektiriyor.
HDv2, veri hazırlama, arama, pekiştirmeli öğrenme ve geniş ölçekte ajan koordinasyonu gibi iş yüklerini karşılamak üzere AMD ile iş birliği içinde geliştirildi. Sanal makinelerde altıncı nesil AMD EPYC işlemcilerden yaklaşık 500 fiziksel çekirdek, 4 terabayt RAM, 32 terabayt yerel NVMe depolama kapasitesi ve 400 gigabit hızında Azure Boost ağ bağlantısı bulunuyor.
Çip tasarımı ve teknik bilgi işlem için HXv2
HXv2, Azure'ın 2023 yılında AMD ile ortaklaşa piyasaya sürdüğü ve AMD'nin 3D V-Cache teknolojisini kullanan HX serisine dayanıyor. Bu seri, çip tasarımı şirketleri arasında benimsenmişti. HXv2, RTL simülasyonu iş yüklerini desteklemeye devam ederken tek iş parçacığı performansında ve bellekte iyileştirmeler sunuyor.
HXv2, 5 gigahertz'i aşan frekansta çalışan altıncı nesil AMD EPYC işlemcilerden 176'ya kadar çekirdek ve çekirdek başına adreslenebilir önbellekte yüzde 50 artış içeriyor. Ayrıca müşterilerin bellek kaynaklarını iş yüklerinin gereksinimleriyle uyumlu hâle getirmesine yardımcı olmak üzere yaklaşık 2 veya 4 terabayt belleğe sahip sanal makine boyutları sunuluyor.
HXv2 yalnızca çip tasarımına yönelik değil; bilimsel simülasyonu, mühendislik analizini ve dağıtık bellek uygulamalarını da hedefliyor. Sanal makine, 800 gigabit hızında InfiniBand bağlantısı sunarak MPI tabanlı geniş ölçekli simülasyonları destekliyor ve onu çeşitli yüksek performanslı bilgi işlem iş yükleri için uygun hâle getiriyor.
AMD'nin başkan yardımcısı ve teknoloji direktörü Mark Papermaster, mühendislik ekiplerinin simülasyon, çip tasarımı ve bilimsel bilgi işlem alanlarında artan gereksinimlerle karşı karşıya olduğunu belirterek Azure HXv2'nin daha yüksek performans ve ölçeklenebilirlik sunmak üzere tasarlandığını söyledi. Synopsys Ürün Geliştirmeden Sorumlu Kıdemli Yetkilisi Shankar Krishnamurthy de Azure HX serisi konusunda Microsoft ile yapılan iş birliğinin şirketin müşterilerinin elektronik tasarım otomasyonu iş yüklerini bulut bilgi işlemi üzerinden ölçeklendirmesine yardımcı olduğunu ifade etti.
Yapay zekâ çıkarımı için ND MI455X v7
ND MI455X v7 sanal makinesi, modern yapay zekâ hizmetlerinin temelini oluşturan çıkarım, arama ve ajan tabanlı görev iş yükleri için tasarlandı. Raf ölçeğinde altyapıya yönelik özel AMD Helios çözümünü temel alıyor; amaç, Azure'ın geniş ölçekli çıkarım seçeneklerini artırmak ve talepkâr iş yükleri için uygun performans ve verimlilik sunmak.
Microsoft'a göre üç teklif, müşterilere gerekli iş akışına göre bilgi işlem kaynaklarını seçme konusunda daha fazla esneklik sağlayacak; bu süreç çıkarımdan yapay zekâ veri sistemlerine ve çip tasarımına kadar uzanıyor. Duyuruda bu tekliflerin ne zaman kullanıma sunulacağı veya fiyatlandırma ayrıntıları belirtilmedi.