微软宣布扩展Azure人工智能和高性能计算基础设施,整合AMD最新的Helios人工智能平台以及面向下一代数据中心的EPYC处理器。这些技术将驱动Azure即将推出的三项服务,分别是用于数据处理的HDv2、用于电子设计自动化的HXv2,以及用于人工智能推理工作负载的ND MI455X v7。
此举正值人工智能工作负载不断扩张之际,单一基础设施已无法满足相关需求。随着模型数量增加、新的代理型工作负载出现,以及对计算能力的需求上升,微软表示,Azure正朝着提供开放且组件多元的平台发展,将AMD等合作伙伴的技术与微软内部开发的芯片和系统相结合,旨在为客户提供更广泛的选择,以平衡性能、成本和能耗效率。
用于人工智能系统数据处理的HDv2
Azure HDv2虚拟机旨在应对人工智能系统中与基于中央处理器的基础设施相关的瓶颈。加速器需要高密度且节能的计算能力来处理数据、协调工作负载并保持处理流水线的连续性,而训练任务和代理则需要足够的容量来为模型提供数据并执行任务。
HDv2由微软与AMD合作开发,用于满足数据准备、搜索、强化学习以及大规模代理协调等工作负载。虚拟机配备约500个AMD第六代EPYC处理器物理核心、4TB随机存取存储器、32TB本地NVMe存储容量,以及速度为400Gbps的Azure Boost网络连接。
用于芯片设计和技术计算的HXv2
HXv2基于Azure于2023年与AMD合作推出的HX系列,该系列采用AMD的3D V-Cache技术,并已获得芯片设计公司的采用。HXv2继续支持RTL仿真工作负载,同时改进单线程性能和内存表现。
HXv2最多配备176个主频超过5GHz的AMD第六代EPYC处理器核心,并将每个核心可寻址缓存增加50%。此外,虚拟机还提供内存接近2TB或4TB的规格,帮助客户根据工作负载需求匹配内存资源。
HXv2并不局限于芯片设计,还面向科学仿真、工程分析和分布式内存应用。该虚拟机提供速度为800Gbps的InfiniBand连接,可支持基于MPI的大规模仿真,并增强其对各种高性能计算工作负载的适用性。
AMD执行副总裁兼首席技术官马克·佩珀迈斯特表示,工程团队在仿真、芯片设计和科学计算方面面临日益增长的需求,并补充说,Azure HXv2旨在提供更高的性能和可扩展性。Synopsys产品开发首席官尚卡尔·克里希纳穆尔蒂也指出,与微软围绕Azure HX系列展开的合作有助于该公司的客户通过云计算扩展电子设计自动化工作负载。
用于人工智能推理的ND MI455X v7
ND MI455X v7虚拟机旨在处理现代人工智能服务所依赖的推理、搜索和代理型任务工作负载。该虚拟机采用面向机架级基础设施的AMD Helios解决方案,旨在扩大Azure对大规模推理的选择,并为要求苛刻的工作负载提供适宜的性能和效率。
微软表示,这三项服务将为客户提供更大的灵活性,使其能够根据所需工作流程选择计算资源,覆盖从推理、人工智能数据系统到芯片设计的各个环节。公告未确定这些服务的上线时间或定价详情。