토론토대학교 연구진이 GPUThor라는 새로운 공격을 공개했다. 이 공격은 ECC 오류 수정 보호가 활성화된 상태에서도 Rowhammer 기술을 이용해 일부 NVIDIA 그래픽 카드의 메모리 비트를 반전시킨다. 연구진은 이 공격이 서비스 거부 상태를 초래할 수 있으며, 특정 시나리오에서는 GPU 페이지 테이블을 손상시켜 권한이 없는 CUDA 프로그램이 임의의 메모리에 접근하고 연구 논문의 결과에 따르면 호스트 시스템에서 root 권한 세션을 열 수 있음을 보였다.
GPUThor의 차별점은 무엇인가?
Rowhammer 공격은 메모리 행에 반복적으로 접근해 인접한 행의 비트 상태가 변경될 가능성을 높이는 방식에 기반한다. 연구진은 GPUThor의 접근 패턴을 불규칙하게 수정해 GDDR6 메모리의 Target Row Refresh, 즉 TRR 메커니즘이 활성화되는 것을 피했다. 이 수정은 메모리 요청 병합 및 TRR 활성화 빈도와 관련된 GPU 내부의 문서화되지 않은 두 가지 동작을 바탕으로 했다.
이 공격은 GDDR6 메모리가 탑재된 NVIDIA Ampere 제품군 카드인 RTX A4000, RTX A4500, RTX A5000, RTX A6000에서 테스트됐다. 연구진에 따르면 새로운 방식은 기존 개념보다 공격 대상 메모리 행 활성화 횟수를 최대 6.6배 늘렸으며, ECC를 비활성화했을 때 기가바이트당 72,000~377,000회의 비트 반전을 기록했다. 이는 기존 GPUHammer 공격보다 4,548~23,597배 증가한 수치이며, 강력한 CPU Rowhammer 공격의 비트 반전률에 근접한다.
ECC만으로 충분하지 않은 이유는 무엇인가?
NVIDIA는 감시 대상 메모리 블록 내부의 단일 비트 오류를 수정하고 2비트 오류를 감지하기 위해 SECDED ECC 메커니즘을 사용한다. 그러나 연구진은 ECC가 활성화된 상태에서 약 387건의 2비트 오류를 기록했다. 이러한 오류는 메커니즘이 감지할 수는 있지만 수정할 수 없으며, 연구에 따르면 ECC가 잘못 수정해 데이터 손상을 일으킨 3비트 오류도 2건 발생했다.
GPUThor의 비트 반전률에 따르면 악용 가능한 비트 반전을 찾는 데 약 1.1분이 걸릴 수 있으며, GPUHammer에서는 약 21.9시간이 걸린다. 이러한 변화가 연구의 핵심적인 중요성이다. 오류가 단일 비트 범위에서 다중 비트 패턴으로 확장되면 기존 보호 기능만으로는 위험을 제거할 수 없기 때문이다.
카드 작동 중단과 권한 상승
연구진은 GPUThor가 ECC가 탑재된 RTX A6000을 서비스 거부 상태로 만들 수 있음을 보였다. 이 상태에서는 카드가 2시간마다 자체적으로 재시작되고 작업 부하가 종료된다. 같은 카드에 대한 공격을 반복하면 최종적으로 해당 카드가 교체가 필요한 장치로 분류될 수 있다.
더 위험한 시나리오는 GPU 페이지 테이블의 손상과 관련된다. 연구진은 이로 인해 권한이 없는 CUDA 프로그램이 메모리에 임의로 접근하고 호스트 시스템에서 root 권한 셸을 열 수 있다고 밝혔다. 또한 일부 서비스 거부 영향은 제한되더라도 SECDED 수준의 ECC에 의존하기 때문에 A100을 비롯한 서버용 Ampere 카드에서 권한 상승이 여전히 가능할 수 있다고 지적했다.
실질적으로 무엇이 달라지는가?
연구진은 4월 29일 NVIDIA에 결과를 알렸고, NVIDIA는 8월 21일 위험 완화 지침을 발표했다. NVIDIA는 SYS-ECC와 IOMMU/DMA 격리를 활성화하고, GPU 오류 데이터를 모니터링하며, 신뢰할 수 없는 작업 부하의 공유 또는 실행을 제한할 것을 권고한다. 또한 회사에 따르면 취약성은 DRAM 유형, 메모리 기술, 플랫폼 설계, 메모리 내부의 보호 메커니즘 및 시스템 설정에 따라 달라진다.
동일한 테스트에서 GDDR6X 또는 HBM2e 모듈에서는 비트 반전이 관찰되지 않았지만, 연구진은 다중 비트 반전을 발생시킬 수 있다면 칩 내 ECC가 탑재된 HBM3/e 및 GDDR7 모듈도 영향을 받을 수 있다고 경고했다. 연구는 가능한 경우 테넌트 간 GPU 공유를 피하고, ECC 오류 카운터를 모니터링하며, 신뢰할 수 없는 CUDA 작업 부하를 제한할 것을 권고한다. 연구진에 따르면 완전한 보호는 다중 비트 오류를 처리할 수 있는 더 강력한 ECC와 추가적인 하드웨어 방어 기능의 개발에 달려 있다.