Microsoft hat die Erweiterung der Azure-Infrastruktur für KI und Hochleistungsrechnen durch die Integration der neuesten AMD-KI-Plattform Helios und der für Rechenzentren bestimmten EPYC-Prozessoren der nächsten Generation angekündigt. Diese Technologien werden drei geplante Azure-Angebote betreiben: HDv2 für die Datenverarbeitung, HXv2 für die Automatisierung des elektronischen Designs und ND MI455X v7 für KI-Inferenz-Workloads.
Der Schritt erfolgt zu einem Zeitpunkt, an dem KI-Workloads mit einer Geschwindigkeit wachsen, die keine einzelne Infrastruktur bewältigen kann, während die Zahl der Modelle zunimmt, neue agentenbasierte Workloads entstehen und die Nachfrage nach Rechenleistung steigt. Microsoft zufolge entwickelt sich Azure zu einer offenen Plattform mit vielfältigen Komponenten, die Technologien von Partnern wie AMD mit Chips und Systemen kombiniert, die Microsoft intern entwickelt, um Kunden eine größere Auswahl zur Abstimmung von Leistung, Kosten und Energieeffizienz zu bieten.
HDv2 für die Datenverarbeitung von KI-Systemen
Die virtuellen Maschinen Azure HDv2 wurden entwickelt, um Engpässe im Zusammenhang mit einer auf Zentralprozessoren basierenden Infrastruktur in KI-Systemen zu bewältigen. Beschleuniger benötigen eine hohe und energieeffiziente Rechenleistung für die Datenverarbeitung, die Koordination von Workloads und die Aufrechterhaltung kontinuierlicher Verarbeitungspipelines, während Trainings- und agentenbasierte Aufgaben ausreichende Kapazitäten benötigen, um Modelle mit Daten zu versorgen und Aufgaben auszuführen.
HDv2 wurde gemeinsam mit AMD für Workloads wie Datenaufbereitung, Suche, bestärkendes Lernen und die Koordination von Agenten in großem Maßstab entwickelt. Die virtuellen Maschinen umfassen rund 500 physische Kerne von AMD-EPYC-Prozessoren der sechsten Generation, 4 Terabyte Arbeitsspeicher und 32 Terabyte lokalen NVMe-Speicher sowie eine Azure-Boost-Netzwerkverbindung mit 400 Gigabit.
HXv2 für Chipdesign und technische Berechnungen
HXv2 basiert auf der HX-Serie, die Azure 2023 in Zusammenarbeit mit AMD eingeführt hat, die AMDs 3D-V-Cache-Technologie nutzt und bei Chipdesign-Unternehmen Akzeptanz gefunden hat. HXv2 unterstützt weiterhin RTL-Simulations-Workloads und bietet Verbesserungen bei der Single-Thread-Leistung und beim Speicher.
HXv2 umfasst bis zu 176 Kerne von AMD-EPYC-Prozessoren der sechsten Generation mit einer Taktfrequenz von mehr als 5 Gigahertz sowie eine Steigerung des adressierbaren Cache-Speichers pro Kern um 50 Prozent. Außerdem stehen Größen virtueller Maschinen mit nahezu 2 oder 4 Terabyte Arbeitsspeicher zur Verfügung, damit Kunden die Speicherressourcen an die Anforderungen ihrer Workloads anpassen können.
HXv2 ist nicht auf das Chipdesign beschränkt, sondern richtet sich auch an wissenschaftliche Simulationen, technische Analysen und Anwendungen mit verteiltem Speicher. Die virtuelle Maschine bietet eine InfiniBand-Verbindung mit 800 Gigabit, unterstützt damit groß angelegte MPI-basierte Simulationen und eignet sich für eine Vielzahl von Hochleistungsrechen-Workloads.
Mark Papermaster, Executive Vice President und Chief Technology Officer von AMD, erklärte, dass Ingenieurteams mit wachsenden Anforderungen bei Simulationen, Chipdesign und wissenschaftlichem Rechnen konfrontiert seien, und fügte hinzu, dass Azure HXv2 für höhere Leistung und Skalierbarkeit ausgelegt sei. Shankar Krishnamurthy, Chief Product Development Officer bei Synopsys, wies außerdem darauf hin, dass die Zusammenarbeit mit Microsoft an der Azure-HX-Serie den Kunden des Unternehmens dabei helfe, Workloads zur Automatisierung des elektronischen Designs über die Cloud zu skalieren.
ND MI455X v7 für KI-Inferenz
Die virtuelle Maschine ND MI455X v7 wurde für Inferenz-, Such- und agentenbasierte Workloads entwickelt, auf denen moderne KI-Dienste aufbauen. Sie basiert auf der für Rack-Infrastrukturen bestimmten AMD-Helios-Lösung, um die Optionen von Azure für Inferenz im großen Maßstab zu erweitern und eine für anspruchsvolle Workloads geeignete Leistung und Effizienz bereitzustellen.
Microsoft zufolge bieten die drei Angebote Kunden mehr Flexibilität bei der Auswahl von Rechenressourcen entsprechend dem erforderlichen Arbeitsablauf – von der Inferenz über KI-Datensysteme bis hin zum Chipdesign. Die Ankündigung enthielt keinen Termin für die Verfügbarkeit dieser Angebote und keine Angaben zu den Preisen.