전 세계적인 AI 붐이 첨단 하드웨어를 가동하는 데 필요한 전력의 심각한 부족이라는 숨겨진 위기에 직면해 있다. 이러한 상황에서 아마존(Amazon)이 엔비디아(Nvidia)로부터 매달 수십억 달러 규모의 GPU와 AI 서버를 구매하고 있으나, 정작 이를 즉시 가동할 수 있는 데이터 센터와 전력 시설은 부족하다는 내부 보고서와 통신 내용이 유출되었다.
내부 메시지는 '조기 랙 수령(Early Rack Receipt)'이라 불리는 과정을 언급하고 있다. 아마존 웹 서비스(AWS)는 한 달에 약 50억 달러 규모의 엔비디아 GB300 서버를 수령하고, 이후 매달 약 30억 달러 규모를 추가로 수령할 것으로 예상했다. 미국 내 일부 시설이 준비되지 않은 탓에, 이 고가의 장비들은 최종 데이터 센터가 완공될 때까지 중간 창고에 보관되고 있다.
"다크 GPU" 개념은 무엇을 의미하는가?
이러한 경향은 이른바 "다크 GPU(Dark GPUs)" 현상을 낳았다. 이는 대형 클라우드 컴퓨팅 기업들이 가능한 한 많은 하드웨어를 확보하고 있지만, 그중 상당 부분이 전력 인프라가 갖춰질 때까지 창고에 방치되어 있는 상태를 말한다. 이러한 상황은 아마존의 재무 상태에도 영향을 미쳐, 2023년 이후 처음으로 2분기 동안 아마존의 잉여 현금 흐름이 마이너스로 돌아섰으며, 올해 자본 지출은 약 2,200억 달러에 이를 것으로 예상된다.
왜 이러한 경향이 기존 구매 정책을 바꾸고 있는가?
거대한 AI 물결 이전, AWS는 서버가 완전히 완성되어 준비된 데이터 센터에 실제로 인도된 후에만 소유권을 갖는 정책을 따랐다. 그러나 오늘날 회사는 글로벌 AI 공급망에서 자사의 몫을 확보하고 선점하기 위해 수십억 달러를 선불로 지불할 의사가 있으며, 뒤처지지 않기 위해 기존의 운영 관행을 뛰어넘고 있다.
이것이 업계와 사용자에게 의미하는 바는 무엇인가?
아마존 관계자들은 이러한 관행을 AI 분야에서 놓칠 수 없는 역사적 기회를 확보하기 위한 건전한 비즈니스 전략이라고 옹호하며, 회사가 과거 성장 단계에서도 유사한 도전을 극복했다고 지적한다. 그럼에도 불구하고, 진정한 도전은 에너지 및 인프라 부문이 칩 제조 및 구매 속도를 따라갈 수 있는지 여부에 있으며, 이는 실제 AI 역량을 시장에 배포하는 속도에 실질적인 제약을 가하고 있다.