사이버 보안

Hugging Face 취약점으로 인한 AI 모델 탈취 및 출력 조작 가능

보안 연구원들이 Hugging Face 플랫폼에서 개발자의 도메인을 제어하여 계정을 탈취할 수 있는 취약점을 발견했으며, 이를 통해 감지되지 않은 상태로 모델 가중치를 수정하는 공급망 공격의 길이 열렸습니다.

2026-11-17
2 분 읽기
14 조회수
certi.news Editorial Team
Hugging Face 취약점으로 인한 AI 모델 탈취 및 출력 조작 가능

보안 연구원 팀이 Hugging Face 플랫폼에서 인공지능 모델 개발자의 계정을 완전히 통제할 수 있는 심각한 보안 취약점을 입증했습니다. 이 취약점은 Google, NVIDIA, AMD, Intel, Amazon Web Services 등의 기업에서 주요 기술 프로젝트에 널리 사용되는 인기 있는 텍스트 음성 변환(Text-to-Speech) 모델인 Kokoro 모델 계정을 탈취하는 과정을 통해 설명되었습니다.

탈취 과정은 어떻게 이루어졌는가?

알론 헤르츠(Alon Hertz)가 이끄는 연구원들은 플랫폼에서 계정 소유권을 엄격하게 검증하는 메커니즘이 부재하다는 점을 악용했습니다. 연구팀은 Kokoro 프로젝트의 기부 파일에 나열되어 있던 인터넷 도메인을 등록한 후, 이 도메인을 사용하여 Hugging Face 개발자 계정의 비밀번호를 재설정함으로써 계정에 대한 완전한 액세스 권한을 확보했습니다.

사용자에게 이것이 의미하는 바는 무엇인가?

연구원들은 진정한 위험이 단순한 계정 탈취에 있는 것이 아니라 공급망 공격(Supply-Chain Attacks)을 수행할 수 있는 능력에 있다고 설명했습니다. 바이러스 백신 프로그램으로 감지할 수 있는 기존의 악성 소프트웨어를 나열하는 대신, 연구원들은 모델 자체의 신경망 '가중치(Weights)'를 수정했습니다. 이러한 수정은 모델의 실행 코드와 인프라 구조를 전혀 변경하지 않은 채 입력된 텍스트와 다른 음성 출력을 생성하게 만들며, 이로 인해 기존 스캔 시스템에서는 공격이 보이지 않게 됩니다.

이 뉴스가 중요한 이유는 무엇인가?

이번 침해 사고는 오픈 소스 모델 생태계의 더 광범위한 신뢰 문제를 조명합니다. Hugging Face는 현재 모델 게시자의 신원이나 계정이 원래 소유자의 통제 하에 여전히 유지되고 있는지 여부를 확인하지 않습니다. 많은 프로덕션 시스템이 모델의 자동 업데이트에 의존하고 있기 때문에, 해킹된 계정을 통해 푸시되는 모든 악성 업데이트는 현재의 보안 도구에 어떠한 의심도 불러일으키지 않은 채 이 모델에 의존하는 수천 개의 시스템에 직접 도달하게 됩니다.

연구원들은 Kokoro 모델이 하나의 두드러진 예시일 뿐이며 플랫폼의 모든 계정이 동일한 시나리오에 취약할 수 있다고 강조합니다. 공격자는 모델에 악성 업데이트를 푸시하기 전에 오랜 기간 동안 기다릴 수 있으므로 실제 업무 환경에서 이러한 공격을 감지하는 것은 극도로 어렵습니다.

뉴스 출처
BleepingComputer
원문 보기 ↗
c
작성자

certi.news Editorial Team

같은 카테고리

추천 기사

모든 뉴스 보기