Uma camada de memória flash de alta largura de banda que o artigo propõe usar juntamente com HBM e a memória do host para expandir a memória disponível para servir modelos de linguagem grandes.
Um artigo da UC Berkeley e da FuriosaAI investiga o uso de High Bandwidth Flash para ampliar a memória de aceleradores de inteligência artificial durante a execução de grandes modelos de linguagem. As simulações indicam uma redução de até 87% no tempo de conclusão, com possíveis melhorias no consumo de energia e no prolongamento da vida útil de gravação por meio de escalonamento consciente do cache.