아마존, NBA 생중계의 Prime 360 기술 강화를 위해 맞춤형 Trainium 칩 채택

아마존은 NBA(미국 프로농구) 생중계 시청자들에게 즉각적인 시네마틱 숏을 제공하기 위해 사용되는 새로운 기능인 Prime 360의 핵심에 맞춤형 인공지능 칩인 Trainium을 통합했다고 밝혔습니다. 이번 발전은 실시간의 집약적인 컴퓨팅 요구 사항을 충족하기 위해 자체 설계된 실리콘을 활용하는 방식에 있어 중요한 기술적 진전을 나타냅니다.

기술적 과제: 실시간 데이터 처리

Prime 360 기술은 경기장을 둘러싼 고해상도 카메라 어레이에 의존하며, 영상은 확산 모델(Diffusion Models)로 알려진 고급 인공지능 모델을 통해 처리됩니다. 이미지 생성 도구에 주로 사용되는 이러한 모델들은 각 프레임마다 수십억 번의 복잡한 수학적 연산을 거쳐 원본 데이터를 정교한 프레임으로 변환하기 때문에 막대한 컴퓨팅 성능을 요구합니다.

아마존 엔지니어들이 직면한 가장 큰 과제는 이미지를 포착하는 것이 아니라, 생중계의 속도에 맞춰 충분히 빠른 속도로 처리하는 것이었습니다. 영상이 경기 내용과 동기화되도록 하려면 이 모든 과정이 0.0x초 안에 완료되어야 했습니다.

성능 가속화에서 Trainium 칩의 역할

Trainium 칩은 대규모 데이터 블록을 고속으로 처리해야 하는 워크로드를 처리하도록 특별히 설계되었습니다. 이 칩의 아키텍처는 각 프레임을 독립적으로 처리하기 위해 수십 개의 겹치는 부분(Tiles)으로 나누는 확산 모델의 작업 방식과 완벽하게 일치하는 "tile in, tile out" 설계를 기반으로 합니다.

이러한 설계를 통해 아마존은 지연 시간(Latency)을 40% 이상 줄이는 데 성공했으며, 제작진이 생중계의 매끄러움을 유지하면서도 일반 카메라로는 흉내 낼 수 없는 시네마틱 숏을 제공할 수 있게 되었습니다.

이것이 미래를 위해 의미하는 바

이번 조치는 아마존의 전략적 전환을 의미합니다. 수년간 백엔드에서 클라우드 인프라(AWS)를 강화하기 위해 자체 칩을 사용해 온 이 회사는 이제 최종 사용자 경험을 직접적으로 향상시키기 위해 이러한 혁신을 활용하기 시작했습니다. 이러한 적용은 맞춤형 칩 설계에 대한 투디가 엔터테인먼트 및 디지털 방송 분야에서 새로운 지평을 열 수 있으며, 향후 인공지능 기반의 더 많은 상호작용 경험을 위한 길을 닦아준다는 것을 증명합니다.