엔비디아, 기성 인공지능 데이터센터 구축을 위한 DSX POD 디자인 공개

엔비디아(Nvidia)는 베를린 GTC 컨퍼런스에서 DSX POD로 알려진 새로운 참조 디자인을 공개했습니다. 이는 최종 현장에 도착하기 전에 배송 컨테이너 내부에 미리 장비를 갖추는 방식으로 인공지능 데이터센터의 구축 방식을 변화시키는 것을 목표로 합니다. 이 혁신은 공장에서 랙, 네트워크, 냉각 시스템을 조립하고 연결하여 실제 가동 시간을 단축하는 데 기반을 둡니다.

기존 데이터센터 내에서 랙을 설치하고 연결하는 작업은 대개 수개월이 소요됩니다. 회사의 발표에 따르면, DSX POD 디자인을 사용하면 현장에 기본적인 전력, 냉각, 네트워크 연결 인프라가 갖추어져 있다는 가정 하에 단 14일 만에 토큰(Tokens) 생산 준비가 완료된 시스템을 만들 수 있습니다.

DSX POD 컨테이너 사양

각 컨테이너 유닛에는 Vera Rubin NVL72 모델의 랙 7개가 포함되어 있으며, 이들은 합쳐서 504개의 Rubin 그래픽 처리 장치(GPUs)를 수용합니다. 엔비디아의 가속 컴퓨팅 및 고성능 컴퓨팅 부사장인 이안 벅(Ian Buck)에 따르면, 단일 유닛은 약 1,000만 개의 부품으로 구성되며 무게는 약 28 메트릭 톤에 달합니다.

또한, 컨테이너에는 사전에 테스트를 거친 약 20킬로미터의 구리 케이블과 17킬로미터의 확장 네트워크가 미리 장착되어 있습니다. 컨테이너가 현장에 도착하면 작업 팀은 이를 설치하고 인접 유닛과 연결한 뒤 최종 작동 테스트(Burn-in tests)를 수행합니다.

수자원 절약을 위한 건식 냉각 기반 디자인

엔비디아는 이 시스템이 냉각 과정에서 물을 소비하지 않도록 설계되었다고 밝혔습니다. Vera Rubin 아키텍처는 최대 45°C의 냉각제로 작동할 수 있으므로, 현재 데이터센터에 널리 퍼져 있는 기존의 증발 냉각탑 대신 건식 냉각기(Dry coolers)를 의존해 사용할 수 있습니다.

회사의 추정에 따르면 이 유형의 냉각은 2기가와트 규모의 프로젝트에서 하루에 약 5,400만 리터의 물을 절약할 수 있으며, 극도로 더운 기후의 일부 시설에서는 가장 더운 날에 추가 냉각기가 필요할 수도 있습니다.

실질적으로 무엇이 바뀌는가?

썬 마이크로시스템즈, 아마존, 마이크로소프트 등의 다른 기업들이 운송, 비상 상황, 군사적 목적을 위해 사용했던 이전의 휴대용 데이터센터 시도와는 달리, DSX POD 컨테이너는 현대적 인공지능 공장을 위한 핵심적이고 직접적인 구성 요소 역할을 합니다.

엔비디아는 아마도(Armada), 델(Dell), HPE(HPE), 슈나이더 일렉트릭(Schneider Electric), 버티브(Vertiv)를 비롯한 17개 파트너와 협력하여 전 세계에 이 시스템들을 출시할 예정이며, 파트너들은 2027년 초부터 시장에 시스템을 인도하기 시작할 것입니다.