Acompanhe as últimas notícias, explicações e histórias tecnológicas relacionadas.
Os data centers estão migrando para clusters heterogêneos que combinam CPUs, GPUs, NPUs, aceleradores personalizados e interconexões ópticas, em vez de depender de uma única GPU para todas as tarefas. Essa mudança torna o software, o gerenciamento de redes e a energia fatores decisivos para reduzir o custo dos tokens e melhorar a utilização do hardware.
Uma análise da Semiconductor Engineering considera que a separação tradicional entre as equipes de hardware e software já não é adequada para os sistemas modernos, especialmente com a aceleração das cargas de trabalho de inteligência artificial e o agravamento das restrições de energia e calor. Isso leva as empresas a projetar hardware mais especializado em paralelo com o software, embora persistam desafios relacionados a ferramentas, custos e padronização.