Kioxia는 2026년 8월 4일부터 6일까지 산타클라라에서 열린 FMS: the Future of Memory and Storage 행사에서 AI 데이터 센터에는 DRAM 및 HBM과 함께 메모리 및 스토리지 계층을 확장할 수 있는 대안이 필요하다고 밝혔다. 회사는 이 과제를 해결하기 위해 Compute Express Link (CXL) 인터페이스를 기반으로 하는 플래시 기술과 메모리 모듈을 선보였으며, 기존 플래시는 지연 시간과 쓰기 횟수 때문에 DRAM을 단순히 대체할 수 없다고 강조했다.
AI 데이터 센터가 DRAM의 대안을 찾는 이유
Kioxia는 AI 데이터 센터의 확장으로 HBM과 DRAM에 대한 수요가 증가하고 있으며, 공급 제약으로 인해 이러한 구성 요소의 비용이 상승하고 있다고 설명했다. 또한 데이터 센터 인프라 확장도 추가적인 비용 부담을 초래한다. 메모리 계층에 플래시를 사용하는 아이디어는 큰 용량 차이에 기반한다. 32기가비트 용량의 DRAM 칩 하나에 대응하는 플래시 칩의 용량은 2테라비트로, 약 64배 더 큰 용량이다.
그러나 이러한 차이가 기술적 제약을 없애는 것은 아니다. 플래시는 읽기와 쓰기가 더 느리고, DRAM에 비해 쓰기 작업을 견디는 능력도 제한적이다. Kioxia는 AI 데이터 센터의 데이터 접근 패턴이 역할을 분담할 여지를 제공한다고 본다. 회사에 따르면 데이터의 약 20%가 접근 작업의 80%를 차지할 수 있다. 가장 빈번하게 사용되는 데이터는 DRAM에 유지하고, 사용 빈도가 낮은 데이터는 저지연 플래시로 옮길 수 있다.
XL-FLASH와 CXL 메모리
Kioxia는 XL-FLASH 기술을 저지연 플래시로 소개했다. 회사에 따르면 읽기 지연 시간은 5마이크로초 미만으로, 기존 플래시보다 약 10배 짧다. 또한 5년의 사용 기간 동안 15만 회에서 25만 회의 재기록을 목표로 하는 설계를 적용했다. 그러나 XL-FLASH만으로는 DRAM과 유사한 지연 시간을 달성할 수 없기 때문에, 회사는 이를 전용 컨트롤러 및 CXL을 통한 메모리 모듈과 결합하는 방안을 선보였다.
발표에 따르면 XL-FLASH와 전용 컨트롤러를 결합한 CXL 모듈의 읽기 지연 시간은 10마이크로초 미만이다. 프로세서, DRAM 모듈, CXL 모듈 및 스토리지로 구성된 시스템의 사례에서는 225기가바이트 용량의 DRAM을 148기가바이트의 DRAM과 77기가바이트의 CXL 메모리를 결합한 구성으로 대체했다. Kioxia에 따르면 성능 저하는 5%를 넘지 않았다. 또한 같은 구성이 비슷한 비용의 DRAM 전용 시스템과 비교해 용량을 두 배로 늘리고 약 1.3배 높은 성능을 제공할 수 있다고 밝혔다.
SSD에서 전력 효율은 여전히 핵심 요소
AI 데이터 센터의 문제는 용량과 지연 시간에만 국한되지 않는다. SSD 작동 전력 역시 시스템 설계에 영향을 미친다. Kioxia는 SSD 인터페이스가 PCIe 5.0에서 PCIe 6.0, 이어서 PCIe 7.0으로 전환되고 있으며, 읽기 및 쓰기 속도는 이용 가능한 전력 한도와 계속 연관되어 있다고 설명했다.
회사는 BiCS FLASH TLC 10세대를 선보였다. 발표 자료에 따르면 이 제품은 8세대와 비교해 비트 밀도를 약 59% 높였으며, 읽기 전력 소비는 40%, 쓰기 전력 소비는 30% 줄였다. 또한 플래시 칩과 인터페이스 칩을 결합한 패키지의 용량이 4테라바이트에 이를 수 있다고 밝혔다. Kioxia는 XL-FLASH 3세대와 BiCS FLASH QLC 10세대도 개발하고 있다.
실제로 무엇이 달라지는가?
이번에 소개된 기술은 DRAM을 완전히 대체한다는 의미가 아니라, 주 메모리와 스토리지 사이에 중간 계층을 구축한다는 의미다. 이 계층은 가능한 가장 낮은 지연 시간보다 용량 확대가 더 중요할 때 사용 빈도가 낮은 데이터를 저장하는 데 활용된다. 실제 결과는 CXL 모듈을 지원하는 플랫폼인지 여부와 컨트롤러, 소프트웨어 및 데이터 접근 패턴에 따라 달라진다. 또한 이용 가능한 자료는 MONOist 보고서의 전반부만 다루므로, Kioxia가 AI 데이터 센터의 SSD 애플리케이션에 할애했다고 밝힌 네 개 섹션의 세부 내용은 포함하지 않는다.