마이크로소프트는 최신 AMD Helios AI 플랫폼과 차세대 데이터센터용 AMD EPYC 프로세서를 통합해 Azure의 AI 및 고성능 컴퓨팅 인프라를 확장한다고 발표했습니다. 이 기술은 Azure의 예정된 세 가지 제품인 데이터 처리를 위한 HDv2, 전자 설계 자동화를 위한 HXv2, AI 추론 워크로드를 위한 ND MI455X v7을 구동하게 됩니다.
이번 조치는 모델 수가 증가하고 에이전트 기반의 새로운 워크로드가 등장하며 컴퓨팅 성능에 대한 수요가 높아지는 가운데, 하나의 인프라만으로는 충족하기 어려운 속도로 AI 워크로드가 확대되는 시점에 이루어졌습니다. 마이크로소프트는 Azure가 AMD와 같은 파트너의 기술과 마이크로소프트가 내부적으로 개발한 칩 및 시스템을 결합하는 개방적이고 다양한 구성 요소의 플랫폼을 제공하는 방향으로 나아가고 있다고 밝혔습니다. 이는 고객에게 성능, 비용, 에너지 효율 간의 균형을 맞출 수 있는 더 폭넓은 선택지를 제공하기 위한 것입니다.
AI 시스템의 데이터 처리를 위한 HDv2
Azure HDv2 가상 머신은 AI 시스템에서 CPU 기반 아키텍처와 관련된 병목 현상을 처리하도록 설계되었습니다. 가속기는 데이터를 처리하고 워크로드를 조정하며 처리 파이프라인의 연속성을 유지하기 위해 집약적이고 에너지 효율적인 컴퓨팅 성능을 필요로 합니다. 한편 학습 및 에이전트 작업에는 모델에 데이터를 공급하고 작업을 실행할 수 있는 충분한 용량이 필요합니다.
HDv2는 데이터 준비, 검색, 강화 학습, 대규모 에이전트 조정과 같은 워크로드를 지원하기 위해 AMD와 협력해 개발되었습니다. 이 가상 머신은 6세대 AMD EPYC 프로세서의 물리적 코어 약 500개, 4테라바이트의 RAM, 32테라바이트의 NVMe 로컬 스토리지, 그리고 400기가비트 속도의 Azure Boost 네트워크 연결을 포함합니다.
칩 설계 및 기술 컴퓨팅을 위한 HXv2
HXv2는 2023년 Azure가 AMD와 협력해 출시한 HX 시리즈를 기반으로 하며, AMD의 3D V-Cache 기술을 사용하고 칩 설계 기업들 사이에서 채택되었습니다. HXv2는 RTL 시뮬레이션 워크로드를 계속 지원하면서 단일 스레드 성능과 메모리를 개선합니다.
HXv2는 5기가헤르츠를 초과하는 주파수로 작동하는 6세대 AMD EPYC 프로세서의 코어를 최대 176개 포함하며, 코어당 주소 지정 가능한 캐시가 50% 증가했습니다. 또한 약 2테라바이트 또는 4테라바이트의 메모리를 갖춘 가상 머신 크기를 제공해 고객이 워크로드 요구 사항에 맞춰 메모리 리소스를 조정할 수 있도록 지원합니다.
HXv2는 칩 설계에만 국한되지 않고 과학 시뮬레이션, 엔지니어링 분석, 분산 메모리 애플리케이션도 대상으로 합니다. 이 가상 머신은 800기가비트 속도의 InfiniBand 연결을 제공해 MPI 기반 대규모 시뮬레이션을 지원하고 다양한 고성능 컴퓨팅 워크로드에 대한 적합성을 높입니다.
AMD의 부사장 겸 최고기술책임자인 마크 페이퍼마스터는 엔지니어링 팀이 시뮬레이션, 칩 설계, 과학 컴퓨팅에서 증가하는 요구 사항에 직면하고 있다며 Azure HXv2가 더 높은 성능과 확장성을 제공하도록 설계되었다고 말했습니다. 또한 Synopsys의 제품 개발 최고 책임자인 샨카르 크리슈나무르티는 Azure HX 시리즈를 두고 마이크로소프트와 협력하면 자사 고객이 클라우드 컴퓨팅을 통해 전자 설계 자동화 워크로드를 확장하는 데 도움이 된다고 밝혔습니다.
AI 추론을 위한 ND MI455X v7
ND MI455X v7 가상 머신은 최신 AI 서비스의 기반이 되는 추론, 검색, 에이전트 기반 작업을 위한 워크로드로 설계되었습니다. 랙 단위 인프라를 위해 특화된 AMD Helios 솔루션을 기반으로 하며, 대규모 추론을 위한 Azure의 선택지를 확대하고 까다로운 워크로드에 적합한 성능과 효율성을 제공하는 것을 목표로 합니다.
마이크로소프트에 따르면 세 가지 제품은 고객에게 필요한 작업 흐름에 따라 컴퓨팅 리소스를 선택할 수 있는 더 큰 유연성을 제공합니다. 이는 추론에서 AI 데이터 시스템을 거쳐 칩 설계에 이르기까지 적용됩니다. 발표에서는 이 제품들의 출시 시점이나 가격 책정에 관한 세부 사항을 밝히지 않았습니다.