Geoff Tate'e göre grafik işlem birimleri (GPU), üreticiye göre dünya genelinde kurulu yapay zekâ bilişim kapasitesinin hâlâ yaklaşık %70'ini oluşturuyor; özel çiplerin payı ise %30 ve bu alana esas olarak Google ile Amazon hâkim. Ancak belirli iş yüklerini çalıştırma maliyetini azaltmak ve enerji tüketimini iyileştirmek amacıyla bulut şirketleri ile gelişmiş model geliştiricileri kendi donanımlarını tasarlamaya başladığından, bu üstünlük artık garanti değil.
Yazarın dayandığı Epoch.ai verileri, yapay zekâ bilişimi için dünya genelinde kurulu kapasitenin üç yıl içinde 17 kat arttığını gösteriyor. 2023'te Nvidia'nın payı %90, Google'ınki ise %10'du; özel bilişim ise son üç yıldaki büyümenin %20'sini oluşturdu. Tate, verilerin Meta, Microsoft ve Cerebras'ı kapsamadığını ve bu şirketlerin kapasitelerini bu ölçüm kapsamında nispeten küçük olarak nitelendirdiğini belirtiyor.
Nvidia'nın avantajları işlem biriminin ötesine geçiyor
Yazara göre Nvidia'nın gücü tek bir GPU'ya dayanmıyor; bağlantı ve genişletme birimleri, raflar, merkezi işlem birimleri ve ağ işlemcilerini kapsayan entegre bir ekosisteme dayanıyor. Şirket, NVL72 platformunu, yapay zekâ ajanlarının iş yüklerine yönelik Vera işlemcisini, BlueField birimini ve Spectrum-6 ağlarını sunuyor; ayrıca düşük gecikmeli çıkarım için Groq 3 LPX seçeneğini sağlıyor.
Nvidia, Vera işlemcisinin ajan iş yüklerinde geleneksel bir işlemciye kıyasla 1,8 kat daha yüksek performans sunduğunu belirtiyor. Şirket ayrıca Vera Rubin sistemlerinin, etkileşim düzeyine bağlı olarak DeepSeek-v4-PRO testinde GB300'e kıyasla iki ila 30 kat arasında iyileşme sağladığını ifade ediyor. Makalede ayrıca Vera Rubin sistemlerinin CoreWeave, Google Cloud, Microsoft Azure, Oracle Cloud ve Nebius'taki raflarda çalışmaya başladığı belirtiliyor.
Nvidia, gelecek mali yılında %70 büyüme bekliyor ve talebin arzla sınırlı olduğuna dikkat çekiyor. Kazanç görüşmesinde aktarıldığı üzere, tedarik güvence altına alma taahhütleri de 119 milyar dolardan 279 milyar dolara yükseldi. Tate, TSMC'den üretim kapasitesi paylarının alınması ile HBM belleğin tedarik edilmesinin rekabette belirleyici faktörler olmaya devam edeceğini düşünüyor.
Özel çipler rekabetin merkezine yaklaşıyor
Çipleri şirket içinde tasarlamak, bulut şirketlerine ve model geliştiricilerine iş yükleri, eğitim ile çıkarım arasındaki ayrım ve altyapıdaki darboğaz noktaları hakkında doğrudan bilgi sağlıyor. Bilişim ölçekleri büyüdükçe, biri eğitim, diğeri çıkarım için olmak üzere iki uzmanlaşmış çip tasarlamak daha ekonomik hâle geldi; özellikle bu yaklaşım watt başına throughput'u %10 ila %30 oranında artırıyor ve silikon alanını benzer ölçüde azaltıyorsa.
Makale, OpenAI'ı şirketin kendi iş yükleri için tasarladığı Jalapeño çipiyle öne çıkarıyor. Bu çıkarım hızlandırıcısı prefill ve decode aşamalarını destekliyor ve KV Cache belleğini yerel tutuyor. Sistem, 128 çiplik bir alan oluşturmak için Broadcom Tomahawk 6 anahtarlarını kullanıyor ve 2048 çipe kadar çıkan küresel bir alan sunuyor. OpenAI'ın ilk testlerine göre Jalapeño, GPT-OSS, DeepSeek R1 ve Kimi K2.5 iş yüklerinde Nvidia GB300'ü geride bıraktı. Ancak testler tek bir token tahminine dayanıyordu ve şirketin performansı üç ila beş kat artırmasını beklediği çoklu token tahminini henüz kapsamıyordu.
Tate, Jalapeño ile Vera Rubin arasındaki karşılaştırmayı, yayımlanmış performans eğrilerinin projeksiyonuna dayanan yaklaşık bir tahmin olarak nitelendiriyor; bunun tamamlanmış doğrudan bir test olmadığını belirtiyor. Bu nedenle sonuçların umut verici olduğunu, ancak üretim ortamında ve daha geniş ölçeklerde ve iş yüklerinde doğrulanması gerektiğini düşünüyor. Ayrıca Jalapeño çıkarım için özel olarak tasarlanmış durumda ve OpenAI'ın bilişim ihtiyaçlarının üçte birini veya daha fazlasını oluşturabilecek eğitim gereksinimlerini karşılamıyor.
Google, Meta ve AMD alternatifleri genişletiyor
Google, sekizinci nesil TPU'da eş zamanlı olarak iki sürüm sunuyor: eğitim için TPU 8t ve çıkarım için TPU 8i. Makaleye göre TPU 8i, ek HBM belleğe ihtiyaç duyduğu için 8t'den yaklaşık 1,4 kat daha büyük. Eğitim ve çıkarım gereksinimlerindeki farklılıklar doğrultusunda iki sürümün bağlantı topolojileri de farklılaşıyor. Google, yeni neslin önceki nesillere kıyasla yaklaşık iki kat performans sunduğunu belirtiyor. Morgan Stanley ise TPU satışlarını 2026'nın ikinci yarısında yaklaşık 9 milyar dolar, 2027'de 84 milyar dolar ve 2028'de 108 milyar dolar olarak tahmin etti.
Meta, önce öneri sistemi iş yükleri, ardından eğitim ve üretken yapay zekâ için MTIA serisini geliştiriyor. Cerebras ise CS-3'e kıyasla kullanıcı başına token hızını iki katına çıkardığını ve watt başına throughput'u on kata kadar artırdığını belirttiği CS-4 çipini tanıttı. AMD de MI455x birimini ve Helios sistemini sergiledi. Makaleye göre AMD'nin dünya genelinde kurulu kapasitedeki payı sıfırdan %6'ya yükseldi; ancak söz konusu sunumda belirli bir yapay zekâ testine ilişkin performans planı bulunmuyordu.
Bu durum GPU üreticileri için ne ifade ediyor?
certi.news'un değerlendirmesi: Veriler GPU'ların yakın zamanda sona ereceğine değil, rekabetin genel amaçlı çip performansından tam sistem verimliliğine, enerji, bellek ve üretim bulunabilirliğine ve donanımın belirli iş yüklerine hizmet etme kapasitesine kaydığına işaret ediyor. Çeşitli model ve iş yüklerini çalıştıran müşteriler için GPU'nun esnekliği önemli bir avantaj olmaya devam edecek. Buna karşılık, şirketin iş yükleri özel bir tasarımı haklı çıkaracak ölçüde biliniyor ve istikrarlıysa, özel çipler üstünlük sağlayabilir.
Tate, Nvidia'nın tek bir genel tasarıma dayanmak yerine eğitim ve çıkarım için ayrı çipler geliştirmeyi değerlendirmesini ve bakırın pratik sınırlarına yaklaşmasıyla Nvidia ile AMD'nin optical circuit switching ve co-packaged optics gibi optik bağlantı teknolojilerini benimsemesini öneriyor. Ancak bu önerilerin bazılarının analitik görüş olduğunu ve kendisinin optik bağlantı teknolojileri alanında faaliyet gösteren iki şirkette yönetim kurulu üyesi olduğunu açıklıyor; bu nedenle bunların bağımsız gerçekler olarak değil, yazı sahibinin tavsiyeleri olarak ele alınması gerekiyor.
Yazarın vardığı sonuç, Nvidia'nın büyük savunma duvarlarına sahip olduğu, ancak müşterilerinin önemli kaynaklara ve kendi modellerini kendi donanımlarında çalıştırmak için doğrudan bir motivasyona sahip bulunduğu yönünde. Jalapeño üretim ortamında Vera Rubin'e benzer veya ondan daha iyi performans gösterirse, bu durum GPU hâkimiyetinin yalnızca teorik bir ihtimal olmaktan çıkıp fiilî rekabetin konusu hâline geldiğine dair güçlü bir gösterge olacak.