DRAM 수직 적층 혁신, GPU 열 설계 전력 범위 확장
첨단 기술 연구 센터인 imec의 연구원들은 'HBM-on-GPU를 넘어: GPU와 3D DRAM 통합을 위한 열 설계 전력(TDP) 범위'라는 제목의 논문을 발표하며, 현재의 고대역폭 메모리(HBM) 기술이 직면한 열적 제약을 극복하기 위한 혁신적인 메모리 아키텍처를 제시했습니다.
수직 적층 아키텍처
제안된 아키텍처는 기존의 직접 적층 방식이나 2.5D 패키징 기술에 의존하는 대신, 동적 랜덤 액세스 메모리(DRAM) 칩을 회전시켜 GPU 위에 수직으로 배치하는 방식을 채택합니다. 이러한 고밀도 적층으로 인해 발생하는 열 문제를 관리하기 위해 연구진은 메모리 층 사이에 냉각 채널을 통합할 것을 제안했습니다.
실질적인 변화
이 연구의 중요성은 데이터 센터와 인공지능 프로세서의 성능을 제한하는 열적 병목 현상을 해결하는 데 있습니다. 패키지 수준의 열 시뮬레이션을 통해 연구팀은 다음과 같은 여러 기술적 변수를 평가했습니다.
- 적층 높이와 냉각 효율에 미치는 영향
- 메모리 용량 및 구조적 구성
- 냉각 채널에 사용되는 재료
- 메모리 컨트롤러 및 온칩 네트워크(NoC) 전용 레이어 추가
이러한 접근 방식은 엔지니어들이 '열 설계 전력(TDP) 범위'를 확장할 수 있게 해주며, 이는 과도한 열로 인한 성능 저하 없이 프로세서 근처의 메모리 밀도를 높일 수 있음을 의미합니다. 이는 차세대 인공지능 가속기 및 고성능 컴퓨팅(HPC) 개발에 필수적입니다.
기술적 영향
이 연구는 메모리와 프로세서 간의 통합(시스템-기술 공동 최적화)을 개선하기 위한 한 걸음을 내디뎠습니다. 도전 과제는 단순히 용량을 늘리는 것뿐만 아니라 3D 공간에서 구성 요소의 근접성으로 인해 발생하는 열을 관리하는 방법에 있습니다. 이 연구는 설계자들이 고급 패키징 시스템에서 열 성능과 메모리 용량 간의 절충안을 평가할 수 있는 참조 프레임워크를 제공합니다.