구글은 ETH 취리히와 협력한 연구진이 DDR5 메모리의 향상된 Target Row Refresh(TRR) 방어를 우회하는 맞춤형 공격 패턴을 개발했다고 밝혔다. 이 연구를 통해 DDR5 메모리를 탑재한 표준 생산용 데스크톱 시스템에서 Rowhammer를 통한 권한 상승의 첫 익스플로잇이 실행됐다. 해당 실험에는 최신 AMD Zen 프로세서와 SK Hynix DDR5 메모리가 사용됐다.
이번 결과는 “Phoenix: Rowhammer Attacks on DDR5 with Self-Correcting Synchronization”이라는 공동 연구 논문에 담겼다. 구글은 다른 하드웨어 구성에도 결과가 적용되는지는 아직 평가 중이라고 밝혔다. 이 논문은 2026년 5월 18일부터 21일까지 샌프란시스코에서 열리는 IEEE Security & Privacy 2026 콘퍼런스에서 발표될 예정이다.
Rowhammer는 어떻게 작동하는가?
Rowhammer는 시간이 지나면서 누설되는 전하 형태로 데이터를 저장하는 DRAM 메모리 셀의 취약점을 악용한다. 시스템은 데이터 손실을 막기 위해 셀을 주기적으로 갱신하지만, 갱신 주기 전에 셀의 전하가 방전되면 저장된 비트가 변경될 수 있다.
공격자는 메모리의 한 행에 반복적으로 접근해 인접한 행의 비트를 변경할 수 있다. 이러한 변경은 데이터를 손상시키거나, 다른 애플리케이션 또는 운영체제가 할당한 메모리 페이지에 영향을 주거나, 권한 상승을 목적으로 민감한 데이터를 표적으로 삼거나, 서비스 거부를 일으키는 데 사용될 수 있다. 클라우드 인프라와 같은 다중 테넌트 격리 환경에서는 이러한 유형의 공격에 대한 보호가 더욱 중요하다.
존재하지만 우회 가능한 방어
메모리 시스템은 Rowhammer 위험을 줄이기 위해 ECC와 TRR 같은 수단을 사용한다. TRR은 대상 행과 가까운 제한된 수의 행에 대한 접근을 모니터링한 다음, 접근 횟수가 특정 임계값을 초과하면 영향을 받은 행의 갱신을 요청한다. 이 기능은 DRAM 칩 내부나 호스트 프로세서에 통합될 수 있다.
그러나 이러한 보호는 결정적이지 않다. TRRespass 공격은 서로 인접하지 않은 여러 행에 동시에 접근해 TRR을 우회할 수 있음을 보여줬고, 이후 등장한 Half-Double과 Blacksmith 같은 공격은 더욱 효율적인 접근 패턴을 제시했다. 또한 현재의 DDR5 시스템은 PRAC이나 이에 상응하는 강력한 보호 수단을 지원하지 않기 때문에 ECC와 향상된 TRR 같은 확률적 기법에 의존한다.
오픈 소스 테스트 플랫폼
이러한 방어 기능의 분석을 용이하게 하기 위해 구글은 Antmicro와 협력해 DDR5 모듈을 테스트할 수 있는 FPGA 기반의 전문 오픈 소스 플랫폼 두 가지를 개발했다.
- DDR5 RDIMM 플랫폼: 컴퓨팅 서버에서 일반적으로 사용되는 등록형 RDIMM 메모리의 요구사항을 충족하는 테스트 보드.
- SO-DIMM 플랫폼: 워크스테이션과 사용자 기기에서 사용되는 DDR5 모듈의 표준 커넥터를 지원하는 버전.
Antmicro가 두 플랫폼을 설계하고 제작했으며, 이후 구글은 Antmicro 및 ETH 취리히 연구진과 협력해 상용 RDIMM 및 SO-DIMM 형식의 메모리 모듈을 분석할 수 있는지 테스트했다. 내부 TRR 메커니즘을 연구하려면 기업과 모델에 따라 서로 다른 독점 메커니즘을 역설계해야 하며, 정밀한 DDR 명령을 발행하고 응답을 분석해야 한다. 이러한 작업은 일반적인 상용 시스템에서는 수행하기 어렵다.
향후 경로
구글은 현재의 보호 수단이 공격 실행을 더 어렵게 만들지만 막지는 못한다고 결론 내렸다. 공격자가 표적 메모리 하위 시스템의 구조를 깊이 이해해야 하기 때문이다. 또한 회사는 ECC가 본래 보안 메커니즘으로 설계되지 않았으며, 암호학적 무결성이 없는 메모리 암호화는 Rowhammer에 대해 유용한 보호를 제공하지 못한다고 본다.
구글은 JEDEC가 승인했으며 향후 DDR5 및 LPDDR6 버전에서 지원될 예정인 PRAC 표준을 지지한다. 이 표준은 DRAM 워드라인의 활성화 횟수를 정밀하게 계산한 뒤, 과도한 활성화 횟수가 감지되면 시스템에 경고하는 방식이다. 이러한 보호 기능이 제공될 때까지 구글은 다른 수단을 계속 평가하고, 테스트 플랫폼과 분석 기술을 개선하기 위해 학계 및 산업계 파트너들과 협력하고 있다.