Подразделение облачных вычислений Amazon Web Services (AWS) объявило о запуске нового инструмента под названием TorchNeuron, который позволяет стартапам в сфере искусственного интеллекта легко переносить свои приложения для работы на специализированных чипах Amazon для ИИ, известных как Trainium. Этот шаг представляет собой прямой вызов программному преимуществу Nvidia, которое сделало ее аппаратное обеспечение де-факто доминирующим выбором в секторе приложений искусственного интеллекта.
Принцип работы TorchNeuron и поддержка PyTorch
Новый инструмент работает в сочетании с фреймворком PyTorch, который представляет собой бесплатный пакет инструментов с открытым исходным кодом, используемый разработчиками для создания, обучения и запуска моделей искусственного интеллекта, охватывая около 85% приложений ИИ. По данным Amazon, инструмент TorchNeuron позволяет запускать приложения, написанные на PyTorch, на чипах Trainium, изменив всего одну строку в конфигурационных файлах и не требуя никакой переписывания программного обеспечения.
Инструмент разработан на основе самого фреймворка PyTorch, а это значит, что разработчикам, привыкшим к этому фреймворку, не придется изучать новые инструменты. Несмотря на предыдущие попытки других компаний облегчить перенос приложений на свои чипы, такие как процессоры AMD или чипы Apple, Amazon подчеркивает, что интеграция с ее облачной архитектурой обеспечивает стартапам комплексную среду по сравнению с облачными провайдерами, эксклюзивно привязанными к оборудованию Nvidia.
Устранение ограничений и снижение зависимости
Стратегия Amazon заключается не только в предоставлении разработчикам возможности перейти в ее облако, но и в том, чтобы сделать фреймворк PyTorch менее зависимым от оборудования Nvidia по умолчанию. В этом контексте Amazon вносит прямые изменения в код основного проекта PyTorch, чтобы удалить код, связывающий фреймворк с конкретными чипами, с целью повышения независимости фреймворка от оборудования на благо всего сообщества разработчиков.
Почему эта новость важна?
- Разрушение программной монополии: Amazon стремится атаковать ключевое преимущество Nvidia, заключающееся в инфраструктуре программного обеспечения CUDA, которая со временем сделала аппаратное обеспечение Nvidia практически единственным выбором.
- Экономическая интеграция: Amazon предлагает единую платформу как для обучения моделей, так и для инференса, утверждая, что это улучшает общую экономическую целесообразность рабочих нагрузок, как это произошло с компанией Deepgram.
- Расширение выбора разработчиков: Разрыв связи между PyTorch и Nvidia может дать разработчикам большую гибкость, при условии, что это не создаст дополнительных сложностей при настройке инфраструктуры.