この論文では、大規模言語モデルのサービスにおけるメモリを拡張するため、HBMおよびホストメモリと併用する高帯域幅のフラッシュメモリ層を提案しています。
カリフォルニア大学バークレー校とFuriosaAIの論文は、大規模言語モデルの実行時にAIアクセラレーターのメモリを拡張するため、High Bandwidth Flashの利用を検討している。シミュレーションでは、完了時間を最大87%短縮できる可能性が示されており、ストレージを意識したスケジューリングによって、消費電力の改善や書き込み寿命の延長も見込まれる。