엑스트림디(Xtreme-D)는 ‘테스에이엠엠 재팬(TES-AMM JAPAN)’, ‘코넬리스 네트워크(Cornelis Networks)’와 협력하여 인공지능 지향 컴퓨팅 인프라 서비스인 ‘Raplase RCA’의 출시를 발표했습니다. 이 새로운 시스템은 중고 및 재생 GPU 서버를 재활용하여 가동함으로써 기업과 조직이 단일 그래픽 프로세서(1 GPU)부터 시작하여 최소한의 비용과 표준화된 최단 납기로 프라이빗 AI(Private AI) 업무 환경을 구축할 수 있도록 지원합니다.
공급망 위기 대응 및 과도한 지출 방지
컴퓨팅 부문은 AI 가속기 서버에 대한 엄청난 수요 폭증을 겪었으며, 이와 함께 신규 하드웨어 가격의 급등과 대기 및 조달 기간이 일부 경우 최대 10개월까지 길어지는 현상이 동반되었습니다. Xtreme-D의 CEO인 나오키 시바타(Naoki Shibata)는 많은 기업들이 실제 필요한 수준을 뛰어넘는 고사양 기술을 구매하는 함정에 빠져 최신 세대 프로세서 구동에 막대한 비용을 지출하고 있다고 설명했습니다. 반면, 대부분의 기업 업무 부하는 재생 및 소프트웨어가 조정된 서버에서도 높은 효율로 처리될 수 있습니다.
새로운 서비스는 컴퓨팅 역량 확보 시간을 단축하고 자본적 지출을 대폭 줄이는 것을 목표로 하며, 민감한 데이터를 퍼블릭 클라우드 서비스로 내보내는 대신 기업 경계 내에 안전하게 보호할 수 있는 유연한 구독 모델을 제공합니다.
메모리 및 네트워크 격차 해소를 위한 3자 엔지니어링 통합
기존 GPU를 활용한 거대언어모델(LLMs) 구동은 메모리 용량과 데이터 전송 병목 현상이라는 과제를 내포하고 있습니다. 이러한 장애물을 극복하기 위해 3사는 업무가 정확하게 분담된 통합 기술 시스템을 구축했습니다.
- Xtreme-D의 메모리 및 운영 솔루션: 후지쯔(Fujitsu)의 ‘FUJITSU ACB’ 기술과 특수 소프트웨어 제어 레이어를 활용하여 GPU 메모리와 호스트 시스템 메모리를 연결하고 확장함으로써 성능의 급격한 저하 없이 최신 스마트 모델을 원활하게 구동할 수 있도록 지원하며, 이 하드웨어를 호스팅하기 위해 준비된 데이터 센터 공간을 제공합니다.
- Cornelis Networks의 초고속 네트워크: 최대 400Gbps의 속도를 지원하는 ‘Cornelis CN5000 Omni-Path’ 네트워크 연결 장비를 제공하여 서버 간 연동의 병목 현상을 해결하고 복잡한 연산 패킷과 인공지능 및 고성능 컴퓨팅(HPC) 처리를 위한 최대의 분산 컴퓨팅 효율을 보장합니다.
- TES-AMM JAPAN의 공급망 및 신뢰성: 20개 이상의 국가에서 IT 자산 처분 및 재생(ITAD)을 전문으로 하는 글로벌 그룹 ‘SK tes’의 일본 지사로서, 중고 서버의 확보와 테스트, 신뢰성 보장, 안전한 데이터 삭제를 담당하며 기업의 엄격한 기준을 충족하기 위한 하드웨어 사용 이력의 명확한 추적 경로를 제공합니다.
기업에게 실질적으로 무엇이 달라지는가?
이번 행보는 최신 GPU 구매 대기열에 합류하지 않고도 모델을 학습하고 배포해야 하는 기업이나, 데이터 거버넌스 규정으로 인해 공유 클라우드 서비스를 이용할 수 없는 기업들에게 실질적인 해결책을 제시합니다. 또한 단일 GPU 기반의 공급 모델은 중소기업이 인공지능 애플리케이션을 테스트하고 점진적으로 확장할 수 있는 길을 열어주며, 장기적인 자본 약정 없이 실제 업무 부하 요구사항에 따라 컴퓨팅 구성을 유연하게 조정할 수 있도록 합니다.