아마존 웹서비스(AWS)는 인공지능 분야의 스타트업들이 자사의 맞춤형 인공지능 칩인 Trainium에서 애플리케이션을 손쉽게 구동할 수 있도록 지원하는 TorchNeuron이라는 새로운 도구의 출시를 발표했습니다. 이번 조치는 인공지능 애플리케이션 부문에서 엔비디아(Nvidia)의 하드웨어를 지배적인 기본 선택지로 만들었던 엔비디아의 소프트웨어적 우위에 직접적인 도전이 됩니다.
TorchNeuron 도구의 작동 방식과 PyTorch 지원
새로운 도구는 인공지능 모델의 구축, 훈련, 실행을 위해 개발자들이 의존하는 무료 오픈소스 도구 모음인 PyTorch 프레임워크와 호환되며, PyTorch는 인공지능 애플리케이션의 약 85%를 차지하고 있습니다. 아마존에 따르면, TorchNeuron 도구는 소프트웨어 재작성 없이 설정 파일에서 단 한 줄의 코드만 수정하면 PyTorch로 작성된 애플리케이션을 Trainium 칩에서 실행할 수 있게 해줍니다.
이 도구는 PyTorch 프레임워크 자체를 기반으로 설계되었기 때문에, 이 프레임워크에 익숙한 개발자들은 새로운 도구를 배울 필요가 없습니다. AMD 프로세서나 애플 칩 등 다른 기업들이 자사 칩으로의 애플리케이션 이전 아이디어를 쉽게 만들려 했던 이전의 시도들이 있었음에도 불구하고, 아마존은 클라우드 인프라와의 통합이 엔비디아 하드웨어에 독점적으로 묶여 있는 클라우드 서비스 제공업체들에 비해 스타트업들에게 통합된 환경을 제공한다고 강조합니다.
제한 제거 및 의존도 감소
아마존의 전략은 단순히 개발자들이 자사 클라우드로 이동할 수 있는 선택지를 제공하는 것에 그치지 않으며, PyTorch 프레임워크가 엔비디아 하드웨어에 대한 자동적인 의존도를 낮추도록 기여하는 것도 목표로 합니다. 이러한 맥락에서 아마존은 전체 개발자 커뮤니티를 위해 프레임워크의 하드웨어 독립성을 강화할 목적으로 특정 칩과 프레임워크를 연결하는 코드를 제거하기 위해 PyTorch 메인 프로젝트에 직접 소프트웨어 수정 사항을 기여하고 있습니다.
이 뉴스가 중요한 이유
- 소프트웨어 독점 타파: 아마존은 엔비디아의 하드웨어를 사실상 유일한 선택지로 만들었던 CUDA 소프트웨어 인프라라는 엔비디아의 핵심 강점을 공략하고자 합니다.
- 경제적 통합: 아마존은 모델 훈련과 추론 모두를 위한 통합 플랫폼을 제공하며, Deepgram사의 사례처럼 이것이 소프트웨어 워크로드의 전반적인 경제적 타당성을 향상시킨다고 보고 있습니다.
- 개발자 선택권 확대: PyTorch와 엔비디아의 연결 해제는 인프라 구성에 추가적인 복잡성을 유발하지 않는다는 전제하에 개발자들에게 더 큰 유연성을 부여할 수 있습니다.