Acompanhe as últimas notícias, explicações e histórias tecnológicas relacionadas.
Um artigo da UC Berkeley e da FuriosaAI investiga o uso de High Bandwidth Flash para ampliar a memória de aceleradores de inteligência artificial durante a execução de grandes modelos de linguagem. As simulações indicam uma redução de até 87% no tempo de conclusão, com possíveis melhorias no consumo de energia e no prolongamento da vida útil de gravação por meio de escalonamento consciente do cache.
A capacidade de produção de substratos deixou de ser um critério suficiente para atender às necessidades do empacotamento avançado; o tamanho do pacote, o número de camadas, a precisão das interconexões e as funções integradas tornam cada design mais próximo de um processo de fabricação especializado. Isso afeta materiais, equipamentos, qualificação e fontes de fornecimento, especialmente em pacotes de inteligência artificial, computação de alto desempenho, óptica integrada e aplicações automotivas.