Geoff Tate ist der Ansicht, dass Grafikprozessoren (GPUs) laut Herstellerangaben weiterhin etwa 70 % der weltweit installierten KI-Rechenleistung ausmachen, gegenüber 30 % für maßgeschneiderte Chips, die hauptsächlich von Google und Amazon dominiert werden. Dieser Vorteil ist jedoch nicht mehr garantiert, da Cloud-Unternehmen und Entwickler fortschrittlicher Modelle damit begonnen haben, eigene Hardware zu entwickeln, um die Betriebskosten bestimmter Workloads zu senken und den Energieverbrauch zu verbessern.
Die von dem Autor herangezogenen Daten von Epoch.ai zeigen, dass die weltweit installierte KI-Rechenleistung innerhalb von drei Jahren um das 17-Fache gewachsen ist. Im Jahr 2023 lag der Anteil von Nvidia bei 90 % gegenüber 10 % für Google, während maßgeschneiderte Rechenlösungen in den vergangenen drei Jahren 20 % des Wachstums ausmachten. Tate weist darauf hin, dass die Daten Meta, Microsoft und Cerebras nicht einschließen, deren Kapazitäten er innerhalb dieser Messung als relativ klein beschreibt.
Nvidias Vorteile gehen über den Prozessor hinaus
Nach Ansicht des Autors beruht Nvidias Stärke nicht auf einer einzelnen GPU, sondern auf einem integrierten Ökosystem, das Interconnect- und Erweiterungseinheiten, Racks, Central Processing Units und Netzwerkprozessoren umfasst. Das Unternehmen bietet die NVL72-Plattform, den auf KI-Agenten-Workloads ausgerichteten Vera-Prozessor, die BlueField-Einheit und die Spectrum-6-Netzwerke sowie die Option Groq 3 LPX für Inferenz mit niedriger Latenz.
Nvidia zufolge liefert der Vera-Prozessor bei Agenten-Workloads im Vergleich zu einem herkömmlichen Prozessor die 1,8-fache Leistung. Außerdem stellt das Unternehmen die Vera-Rubin-Systeme je nach Interaktivitätsgrad als zwei- bis 30-mal leistungsfähiger als GB300 im DeepSeek-v4-PRO-Test dar. Der Artikel erwähnt zudem, dass Vera-Rubin-Systeme in Racks bei CoreWeave, Google Cloud, Microsoft Azure, Oracle Cloud und Nebius in Betrieb genommen wurden.
Nvidia erwartet in seinem kommenden Geschäftsjahr ein Wachstum von 70 %; zugleich wird darauf hingewiesen, dass die Nachfrage durch das Angebot begrenzt ist. Auch die Verpflichtungen zur Sicherung der Lieferungen stiegen laut der Gewinnmitteilung von 119 Milliarden US-Dollar auf 279 Milliarden US-Dollar. Tate ist der Ansicht, dass der Zugang zu Fertigungskapazitäten bei TSMC und die Bereitstellung von HBM-Speicher weiterhin entscheidende Wettbewerbsfaktoren sein werden.
Maßgeschneiderte Chips rücken ins Zentrum des Wettbewerbs
Die interne Chipentwicklung verschafft Cloud-Unternehmen und Modellanbietern direkten Einblick in ihre Workloads, in die Trennung zwischen Trainings- und Inferenzanforderungen sowie in Engpässe der Infrastruktur. Mit zunehmendem Rechenumfang wurde die Entwicklung zweier spezialisierter Chips – eines für das Training und eines für die Inferenz – wirtschaftlich attraktiver, insbesondere wenn dadurch der Durchsatz pro Watt um 10 % bis 30 % verbessert und die Siliziumfläche in ähnlichem Umfang reduziert werden kann.
OpenAI rückt im Artikel mit dem Chip Jalapeño in den Mittelpunkt, einem von dem Unternehmen für seine Workloads entwickelten Inferenzbeschleuniger, der die Phasen prefill und decode unterstützt und den KV-Cache lokal hält. Die Plattform verwendet Broadcom-Tomahawk-6-Switches, um eine Domäne mit 128 Chips sowie eine globale Domäne mit bis zu 2048 Chips aufzubauen. Nach ersten Tests von OpenAI übertraf Jalapeño Nvidia GB300 bei den Workloads GPT-OSS, DeepSeek R1 und Kimi K2.5. Die Tests beruhten jedoch auf der Vorhersage eines einzelnen Tokens und umfassten noch nicht die Vorhersage mehrerer Tokens, von der das Unternehmen eine Leistungssteigerung um das Drei- bis Fünffache erwartet.
Tate bezeichnet den Vergleich zwischen Jalapeño und Vera Rubin als Näherungsschätzung, die auf der Projektion veröffentlichter Leistungskurven und nicht auf einem vollständigen direkten Test beruht. Daher hält er die Ergebnisse für vielversprechend, sieht jedoch weiteren Prüfbedarf beim Einsatz in der Produktion sowie bei größeren Maßstäben und breiteren Workloads. Außerdem ist Jalapeño für die Inferenz bestimmt und deckt nicht den Trainingsbedarf ab, der ein Drittel oder mehr des Rechenbedarfs von OpenAI ausmachen könnte.
Google, Meta und AMD erweitern die Alternativen
Google bringt mit der achten TPU-Generation zwei gleichzeitig entwickelte Varianten auf den Markt: TPU 8t für das Training und TPU 8i für die Inferenz. Der Artikel weist darauf hin, dass TPU 8i wegen des zusätzlichen HBM-Speicherbedarfs etwa 1,4-mal größer ist als 8t. Auch die Interconnect-Topologie unterscheidet sich zwischen den beiden Varianten entsprechend den unterschiedlichen Anforderungen von Training und Inferenz. Google zufolge bietet die neue Generation etwa die doppelte Leistung früherer Generationen. Morgan Stanley schätzte die TPU-Umsätze auf rund 9 Milliarden US-Dollar in der zweiten Hälfte von 2026, 84 Milliarden US-Dollar im Jahr 2027 und 108 Milliarden US-Dollar im Jahr 2028.
Meta entwickelt seinerseits die MTIA-Serie zunächst für Workloads von Empfehlungssystemen und anschließend für Training und generative KI. Cerebras stellte unterdessen den CS-4-Chip vor, der nach eigenen Angaben die Geschwindigkeit der Tokens pro Nutzer gegenüber CS-3 verdoppelt und bis zu den zehnfachen Durchsatz pro Watt erreicht. AMD präsentierte außerdem die MI455x-Einheit und das Helios-System. Laut Artikel stieg der Anteil von AMD an der weltweit installierten Leistung von null auf 6 %, wobei in der genannten Präsentation ein Leistungsdiagramm für keinen bestimmten KI-Test enthalten war.
Was bedeutet das für GPU-Hersteller?
Einordnung von certi.news: Die Daten deuten nicht auf das bevorstehende Ende von GPUs hin, sondern auf eine Verlagerung des Wettbewerbs – weg von der Leistung eines allgemeinen Chips und hin zur Effizienz des Gesamtsystems, zur Verfügbarkeit von Energie, Speicher und Fertigung sowie zur Fähigkeit der Hardware, bestimmte Workloads zu bedienen. Die Flexibilität von GPUs wird für Kunden, die verschiedene Modelle und Workloads ausführen, ein wichtiger Vorteil bleiben. Maßgeschneiderte Chips können hingegen überlegen sein, wenn die Workloads eines Unternehmens bekannt und stabil genug sind, um eine eigene Entwicklung zu rechtfertigen.
Tate schlägt vor, dass Nvidia getrennte Chips für Training und Inferenz entwickeln sollte, statt sich auf ein einziges allgemeines Design zu verlassen. Außerdem sollten Nvidia und AMD angesichts der Annäherung von Kupfer an seine praktischen Grenzen optische Verbindungstechnologien wie optical circuit switching und co-packaged optics übernehmen. Er stellt jedoch klar, dass einige dieser Vorschläge analytische Einschätzungen sind und dass er Vorstandsmitglied in zwei Unternehmen ist, die im Bereich optischer Verbindungstechnologien tätig sind. Daher sollten sie als Empfehlungen des Autors und nicht als unabhängige Fakten betrachtet werden.
Das Fazit des Autors lautet, dass Nvidia über große Schutzbarrieren verfügt, jedoch Kunden gegenübersteht, die erhebliche Ressourcen und einen direkten Anreiz haben, ihre Modelle auf eigener Hardware auszuführen. Sollte Jalapeño im Produktiveinsatz eine ähnliche oder bessere Leistung als Vera Rubin nachweisen, wäre dies ein starkes Indiz dafür, dass die GPU-Dominanz tatsächlich umkämpft ist und nicht nur eine theoretische Möglichkeit.