Die Art des Wettbewerbs bei der Infrastruktur für künstliche Intelligenz verändert sich. Nachdem Nvidias Vorteil jahrelang vor allem mit dem Besitz der fortschrittlichsten Grafikprozessoren (GPU) verbunden war, deutet diese Analyse darauf hin, dass sich der Schwerpunkt allmählich auf das Umfeld des Prozessors verlagert: Speicherverwaltung, Datenweiterleitung, Speicherung, Netzwerke und die Koordination der Arbeit zwischen den Systemkomponenten. Da KI-Workloads den Gigawattbereich erreichen, reicht es nicht mehr aus, lediglich die Anzahl der Rechenzyklen zu erhöhen, um die erforderliche Effizienz zu erzielen.
Diese Einschätzung erfolgt zu einem Zeitpunkt, an dem große Cloud-Infrastrukturunternehmen wie Amazon und Google begonnen haben, eigene Chips zu entwickeln. Dadurch wurde die Vorstellung geschwächt, Nvidia sei die einzige Option für fortschrittliche KI-Hardware. Dies hat Fragen zur Nachhaltigkeit des Vorsprungs des Unternehmens aufgeworfen, insbesondere nachdem sich sein Börsenwert zwischen Anfang 2023 und Mitte 2025 verzehnfacht hatte, bevor sich die Bewegung seiner Aktie im darauffolgenden Jahr angesichts der Sorgen über den Wettbewerb bei GPU-Einheiten abschwächte.
Vom Prozessor zum Rack-System
Dem Artikel zufolge bietet Nvidia derzeit die Vera-Rubin-Architektur an, die die Rubin-GPU mit einer Reihe weiterer Einheiten verbindet, darunter die Vera-CPU, den Inferenzbeschleuniger Groq 3 LPX sowie speziell für Speicherung und Netzwerke ausgelegte Racks. Diese Komponenten konzentrieren sich nicht unbedingt auf die direkte Ausführung von Tokens, sondern darauf, sicherzustellen, dass die Daten die GPU-Einheiten mit der richtigen Geschwindigkeit und zum richtigen Zeitpunkt erreichen.
Eine GPU lässt sich mit einem Motor vergleichen, während die übrigen Systemkomponenten die Funktionen eines Autos übernehmen, die eine effiziente Nutzung der Motorleistung gewährleisten. Je größer die Kapazität von Rechenzentren wird, desto größer ist der Speicherbedarf. Der Datentransport vom Speicher zum Prozessor ohne Engpässe ist jedoch zu einer eigenständigen Herausforderung geworden. Diese Herausforderung gewinnt an Bedeutung, da Infrastrukturbetreiber die Zahl der Tokens senken wollen, die pro Watt erzeugt werden können.
Die Rolle der Vera-CPU bei der Datenweiterleitung
Jason Hardy, Vizepräsident für Speichertechnologien bei Nvidia, sagte, Vera sei wichtig, weil die Menge an Speicher, die in einem einzelnen Server oder einer Rechenplattform untergebracht werden könne, begrenzt sei. Nach den von der Analyse zitierten Angaben erzielten Prozesse eine Verbesserung um bis zu das Dreifache, wenn die Vera-CPU ihre Beschleunigung ermöglichte. Dadurch konnten Flash-Speicher ihre Möglichkeiten vollständig ausschöpfen, anstatt dass die Leistung durch Engpässe bei der Datenübertragung ausgebremst wurde.
Die praktische Bedeutung besteht darin, dass die Leistung eines Rechenzentrums nicht allein durch die technischen Daten einer einzelnen GPU bestimmt wird. Selbst eine schnelle Recheneinheit kann ihren vollen Nutzen nicht entfalten, wenn die Daten sie nicht rechtzeitig erreichen oder wenn Speicher, Speicherung und Netzwerke den Arbeitsfluss nicht bewältigen können. Deshalb versucht Nvidia, ein integriertes System und nicht nur einen einzelnen Chip zu verkaufen.
Ein anderer Ansatz von OpenAI
Die Bewältigung des Problems des Datenverkehrs ist nicht auf Nvidia beschränkt. Als OpenAI den Jalapeño-Chip entwickelte, war die Verringerung der Datenmenge, die zwischen den Komponenten übertragen werden muss, ein zentraler Schwerpunkt des Designs. Das Unternehmen erklärte, dass die große Chipfläche es ermögliche, die gesamte Arbeitslast innerhalb eines einzigen verbundenen Systems zu halten. Dadurch würden Datenbewegungen und Kommunikationsverzögerungen reduziert und die Anfrage von Anfang bis Ende schnell und effizient gehalten.
Die beiden Ansätze unterscheiden sich: Das Nvidia-System versucht, den Datenverkehr effizient über eine Gruppe spezialisierter Komponenten zu verwalten, während OpenAI darauf abzielt, den Verkehr selbst zu reduzieren, indem die Arbeitslast innerhalb eines integrierten Chips oder Systems gehalten wird. Das angestrebte Ergebnis ist jedoch dasselbe: eine Verbesserung der Effizienz, statt sich ausschließlich auf zusätzliche Rechenzyklen oder mehr Chips zu verlassen.
Warum ist dieser Wandel wichtig?
Hier zeigt sich eine neue Wettbewerbsebene in der künstlichen Intelligenz. Der Bau einer konkurrenzfähigen GPU reicht möglicherweise nicht mehr aus; Unternehmen müssen auch dafür sorgen, dass das gesamte System effizient arbeitet. Dadurch entsteht für Chiphersteller und Cloud-Dienstanbieter Raum für Wettbewerb bei der Entwicklung von Racks, der Speicherkoordination sowie der Verwaltung von Speicherung und Netzwerken – und nicht nur bei der reinen Rechenleistung.
Analyse von certi.news: Was sich tatsächlich verändert hat, ist die Definition von Leistung in KI-Rechenzentren. Der Maßstab verschiebt sich von der Frage „Wie schnell ist der Chip?“ zu einer umfassenderen Frage: „Wie effizient ist das System darin, den Chip mit den richtigen Daten beschäftigt zu halten?“ Das gibt Nvidia die Möglichkeit, seinen Vorteil auf eine Ebene auszuweiten, die sich nur schwer vom übrigen Aufbau trennen lässt, entscheidet den Wettbewerb jedoch nicht. Das Unternehmen wird sowohl bei GPU-Einheiten als auch bei der Systemverwaltung und Koordination auf Wettbewerber treffen. Zudem liefert die Quelle keine umfassenden Vergleichszahlen zwischen dem Nvidia-System und den Lösungen der Wettbewerber und belegt nicht, dass der derzeitige Vorteil langfristig bestehen bleiben wird.
Für Betreiber von Rechenzentren bedeutet dies, dass Infrastrukturentscheidungen möglicherweise die Effizienz des Gesamtsystems berücksichtigen müssen und nicht nur den Preis oder die Leistung des Prozessors. Für Chipentwickler weitet sich die Herausforderung von der Steigerung der Rechenleistung auf die Verringerung von Datenbewegungen und Engpässen aus. Die Analyse deutet darauf hin, dass Nvidia in der frühen Phase einen starken Vorsprung auf dieser neuen Ebene zu haben scheint, ohne dass dies das Ende des Wettbewerbs oder einen dauerhaften Vorsprung garantiert.