Google, yapay zeka için özelleştirilmiş sekizinci nesil Tensör İşleme Birimi (TPU) ailesini, TPU 8tx ve TPU 8i Max adlı iki yeni sistemle genişlettiğini duyurdu. Bu duyuru, gizli hesaplama gereksinimlerine ve uzun bağlamlı iş yüklerinin yönetimine odaklanarak yapay zeka altyapısını güçlendirmeyi amaçlıyor.
Gizli hesaplama için TPU 8tx sistemi
TPU 8tx sistemi, hassas verilerle çalışan ve katı düzenleyici gereksinimlere tabi olan kuruluşların ihtiyaçlarını karşılamak üzere özel olarak tasarlandı. Sistem, mevcut TPU 8t çiplerini temel alırken, görev yönetimi ve veri koordinasyonu için beşinci nesil AMD EPYC sunucu işlemcilerini entegre ediyor. Bu yapılandırma, kullanıcıların yapay zeka modellerini gizli hesaplama (Confidential Computing) ortamlarında çalıştırmasına olanak tanıyor. Güvenli Sanallaştırma (SEV) teknolojileri sayesinde, model ağırlıkları ve veriler işleme, depolama ve aktarım sırasında sıkı bir şekilde korunuyor.
Google ayrıca, düşük gecikmeli Boardfly ağının entegrasyonunun, standart TPU 8t sistemine kıyasla gecikme süresini iki kat azalttığını ve bunun da ince ayar (Fine-tuning) ve pekiştirmeli öğrenme süreçleri için uygun olduğunu belirtti.
Uzun bağlamlar için TPU 8i Max sistemi
TPU 8i Max sistemi, büyük yazılım depolarını veya genişletilmiş görsel içerikleri işleyen otonom ajanlar (Autonomous Agents) gibi devasa bellek ve yüksek işlem gücü gerektiren iş yüklerini hedefliyor. Bu sistem, iki adet TPU 8i biriminin tek bir pakette birleştirilmesine dayanıyor. Bu sayede hesaplama gücü, SRAM belleği ve HBM bellek bant genişliği iki katına çıkarılarak veri merkezlerindeki hesaplama yoğunluğu artırılıyor.
Bu genişleme kullanıcılar için ne anlama geliyor?
Bu duyuru, Google'ın tamamen yeni çipler tasarlamak yerine hesaplama, bellek ve ağ entegrasyon yöntemlerini iyileştirmeye odaklanarak teknik seçeneklerini çeşitlendirme stratejisini temsil ediyor. Bu iki sistemin eklenmesiyle sekizinci nesil ailesi; geniş ölçekli eğitim, hızlı çıkarım, gizli hesaplama ve uzun bağlam işleme gibi alanları kapsayan dört seçeneğe ulaştı. Google, geliştiricilerin bu sistemleri benimsemesini kolaylaştırmak için PyTorch ve TorchTPU projesi gibi açık kaynaklı çerçeveleri destekleme konusundaki kararlılığını vurguluyor.
Google'ın henüz bu sistemlerin fiyatlandırma detaylarını veya ticari kullanıma sunulma tarihlerini açıklamadığını, ayrıca Arap bölgesindeki belirli projeler hakkında da bir duyuru yapılmadığını belirtmek gerekir.