A Amazon Web Services (AWS) anunciou o lançamento de uma nova ferramenta chamada TorchNeuron, que permite que startups de inteligência artificial migrem facilmente seus aplicativos para executá-los nos chips de IA dedicados da Amazon, conhecidos como Trainium. Este passo representa um desafio direto à vantagem de software que a Nvidia possui, a qual tornou seu hardware a escolha padrão dominante no setor de aplicativos de inteligência artificial.
Como funciona a ferramenta TorchNeuron e o suporte ao PyTorch
A nova ferramenta opera em compatibilidade com o framework PyTorch, um pacote de ferramentas gratuito e de código aberto no qual os desenvolvedores confiam para construir, treinar e executar modelos de inteligência artificial, abrangendo cerca de 85% dos aplicativos de inteligência artificial. De acordo com a Amazon, a ferramenta TorchNeuron permite que aplicativos escritos em PyTorch sejam executados em chips Trainium alterando apenas uma linha nos arquivos de configuração, sem a necessidade de reescrita de software.
A ferramenta é projetada com base no próprio framework PyTorch, o que significa que os desenvolvedores familiarizados com o framework não precisarão aprender novas ferramentas. Apesar de tentativas anteriores de outras empresas para facilitar a transferência de aplicativos para seus chips, como processadores AMD ou chips da Apple, a Amazon enfatiza que a integração com sua arquitetura em nuvem oferece às startups um ambiente integrado em comparação com provedores de serviços em nuvem exclusivamente vinculados ao hardware da Nvidia.
Removendo restrições e reduzindo a dependência
A estratégia da Amazon não se limita a fornecer uma opção para os desenvolvedores migrarem para sua nuvem, mas também busca contribuir para tornar o framework PyTorch menos dependente automaticamente do hardware da Nvidia. Nesse contexto, a Amazon está contribuindo com modificações de software diretamente no projeto principal do PyTorch para remover códigos que vinculam o framework a chips específicos, com o objetivo de melhorar a independência do framework em relação ao hardware em benefício da comunidade de desenvolvedores como um todo.
Por que esta notícia é importante?
- Quebrando o monopólio de software: A Amazon busca atacar o principal ponto forte da Nvidia, que é a infraestrutura de software CUDA, que tornou o hardware da Nvidia praticamente a única escolha ao longo do tempo.
- Integração econômica: A Amazon oferece uma plataforma unificada para treinamento e inferência de modelos, argumentando que isso melhora a viabilidade econômica geral das cargas de trabalho de software, como aconteceu com a Deepgram.
- Expandindo as opções dos desenvolvedores: Desvincular o PyTorch da Nvidia pode dar aos desenvolvedores maior flexibilidade, desde que isso não cause complicações adicionais na configuração da infraestrutura.