Kioxiaは、8月4日から6日までサンタクララで開催されたFMS: the Future of Memory and Storageで、AIデータセンターにはDRAMやHBMに加えて、メモリおよびストレージ階層を拡張する代替手段が必要だと述べた。同社はこの課題に対応するため、フラッシュ技術とCompute Express Link（CXL）インターフェースを利用するメモリモジュールを紹介した。ただし、従来型フラッシュはレイテンシと書き込み回数のため、DRAMを単純に置き換えることはできないと強調した。
なぜAIデータセンターはDRAMの代替を探しているのか？
Kioxiaは、AIデータセンターの拡大によってHBMとDRAMの需要が高まり、供給制約によってこれらの部品のコストが上昇していると説明した。また、データセンターのインフラ拡張もコストにさらなる負担を加えている。メモリ階層でフラッシュを利用する考えは、容量の大きな差に基づいている。32ギガビットのDRAMチップに対し、フラッシュチップは2テラビットで、容量は約64倍高い。
しかし、この差によって技術的な制約がなくなるわけではない。フラッシュは読み取りと書き込みが遅く、書き込み耐久性もDRAMと比べて限られている。Kioxiaは、AIデータセンターにおけるデータアクセスのパターンが役割分担の余地を生むと見ている。同社によると、約20%のデータがアクセスの80%を占める可能性がある。最も頻繁に利用されるデータはDRAMに保持し、使用頻度の低い部分を低レイテンシのフラッシュへ移行できる。
XL-FLASHとCXLメモリ
KioxiaはXL-FLASHを低レイテンシフラッシュとして紹介した。同社によると、読み取り時間は5マイクロ秒未満で、従来型フラッシュの約10分の1である。また、5年間の使用期間中に15万回から25万回の書き換えを想定した設計となっている。ただし、XL-FLASH単体ではDRAMと同等の時間を実現できないため、同社は専用コントローラーおよびCXL経由のメモリモジュールと組み合わせる構成を示した。
説明によると、XL-FLASHと専用コントローラーを組み合わせたCXLモジュールの読み取り時間は10マイクロ秒未満である。プロセッサー、DRAMモジュール、CXLモジュール、ストレージを備えたシステムの例では、容量225ギガバイトのDRAMを、DRAM 148ギガバイトとCXLメモリ77ギガバイトを組み合わせた構成に置き換えた。この場合、Kioxiaによれば性能低下は5%以下だった。また同社は、同じ構成によって容量を2倍にし、同等コストのDRAMのみのシステムと比べて約1.3倍高い性能を実現できる可能性があると述べた。
SSDでは電力効率が依然として重要な要因
AIデータセンターの問題は容量とレイテンシに限られない。SSDの動作電力もシステム設計に影響する。Kioxiaは、SSDインターフェースがPCIe 5.0からPCIe 6.0、さらにPCIe 7.0へ移行しており、読み取り速度と書き込み速度は引き続き利用可能な電力の制約を受けると指摘した。
同社はBiCS FLASH TLCの第10世代を紹介した。発表データによると、第8世代と比べてビット密度を約59%高め、読み取り時の消費電力を40%、書き込み時の消費電力を30%削減している。また、フラッシュチップとインターフェースチップを組み合わせたパッケージの容量は4テラバイトに達する可能性があると述べた。Kioxiaは、第3世代XL-FLASHと第10世代BiCS FLASH QLCにも取り組んでいる。
実際には何が変わるのか？
紹介された技術は、DRAMを完全に置き換えるものではない。主メモリとストレージの間に中間層を構築し、最小レイテンシへの到達よりも容量の増加が重要な場合に、使用頻度の低いデータに利用するものだ。実際の結果は、CXLモジュールに対するプラットフォームの対応、コントローラー、ソフトウェア、データアクセスのパターンに左右される。また、利用可能な資料はMONOistの記事の前半部分のみを扱っているため、KioxiaがAIデータセンターにおけるSSDアプリケーション向けに割り当てたと述べた4つのセクションの詳細は含まれていない。