«Xtreme-D», «TES-AMM JAPAN» ve «Cornelis Networks» şirketleri iş birliğiyle yapay zekaya yönelik bilişim altyapı hizmeti «Raplase RCA»nın başlatıldığını duyurdu. Yeni ekosistem, kuruluşların ve şirketlerin en düşük maliyetle ve tek bir grafik işlemciden (1 GPU) başlayan rekor teslimat süreleriyle özel yapay zeka çalışma ortamları (Private AI) oluşturmasını sağlamak amacıyla kullanılmış ve yenilenmiş grafik işleme birimi (GPU) sunucularının geri dönüştürülmesini ve çalıştırılmasını temel alıyor.
Tedarik zinciri krizini ele almak ve aşırı harcamalarla mücadele etmek
Bilişim sektörü, yapay zeka hızlandırıcı sunucularına yönelik devasa bir talep patlamasına tanık oldu; buna yeni donanım fiyatlarında keskin bir artış ve bekleme ile tedarik sürelerinin bazı durumlarda yaklaşık on aya kadar uzaması eşlik etti. Xtreme-D CEO'su Naoki Shibata, birçok şirketin gerçek ihtiyacını aşan üst düzey teknik özellikler satın alma tuzaklığına düştüğünü ve en yeni nesil GPU'ları çalıştırmak için yüksek maliyetlere katlandığını, oysa kurumsal iş yüklerinin çoğunun yenilenmiş ve yazılımsal olarak ayarlanmış sunucularda yüksek verimlilikle gerçekleştirilebileceğini açıkladı.
Yeni hizmet; bilişim kapasitesi elde etme süresini kısaltmayı, sermaye harcamalarını büyük ölçüde azaltmayı ve hassas verilerin kamu bulut hizmetlerine aktarılması yerine kurum sınırları içinde korunmasını garanti eden esnek bir abonelik modeli sağlamayı hedefliyor.
Bellek ve ağ boşluğunu telafi etmek için üçlü mühendislik entegrasyonu
Büyük Dil Modellerini (LLM) önceki GPU'larda çalıştırmak, bellek kapasitesi ve veri aktarım darboğazları zorluğunu beraberinde getiriyor. Bu engelleri aşmak için üç taraf, görevleri hassas bir şekilde dağıtılan entegre bir teknik ekosistem oluşturdu:
- Xtreme-D'den Bellek ve Çalıştırma Çözümleri: Şirket, GPU belleği ile ana sistem belleği (Host Memory) arasında bağlantı kurmak ve bunu genişletmek için «FUJITSU ACB» teknolojisini ve özel yazılım ayar katmanlarını kullandı; bu, donanım barındırmaya hazır veri merkezi alanları sağlamanın yanı sıra, akıllı modellerin performansta keskin bir düşüş yaşamadan sorunsuz bir şekilde çalıştırılmasına olanak tanıyor.
- Cornelis Networks'ten Ultra Hızlı Ağlar: Şirket, sunucu birbirine bağlanmasındaki darboğazı ele almak ve karmaşık hesaplama paketleri, yapay zeka işleme ve yüksek performanslı bilişim (HPC) için maksimum dağıtık bilişim verimliliğini garanti etmek amacıyla 400 Gbps'ye varan hızları destekleyen «Cornelis CN5000 Omni-Path» ağ iletişim ekipmanını sundu.
- TES-AMM JAPAN'dan Tedarik Zincirleri ve Güvenilirlik: 20'den fazla ülkede BT varlık imhası ve yenileme (ITAD) konusunda uzmanlaşmış küresel «SK tes» grubunun Japon kolu olarak faaliyet gösteren şirket; kullanılmış sunucuların temin edilmesi, test edilmesi, güvenilirliklerinin garanti edilmesi ve güvenli veri silme işlemlerinin gerçekleştirilmesinin yanı sıra, katı kurumsal standartları karşılamak için donanım kullanım geçmişine yönelik net bir takip yolu sunulmasını üstleniyor.
Kuruluşlar için pratikte ne değişiyor?
Bu eğilim, modern GPU'ları satın almak için bekleme listelerine girmek zorunda kalmadan modellerini eğitmek ve yayınlamak isteyen şirketler veya veri yönetişimi düzenlemelerinin paylaşılan bulut hizmetlerine başvurmalarını engelleyen kurumlar için pratik bir çıkış yolu oluşturuyor. Ayrıca, tek bir GPU'ya dayalı tedarik modeli; küçük ve orta ölçekli işletmelerin yapay zeka uygulamalarını test etmesi ve uzun vadeli sermaye taahhütleri olmaksızın gerçek iş yükü gereksinimlerine göre bilişim yapılandırmasını esnek bir şekilde ayarlama imkanıyla kademeli olarak büyümesi için kapı aralıyor.