Pluto Security의 연구원들은 Hugging Face 플랫폼의 AI 모델 저장소를 겨냥한 악성 소프트웨어 캠페인이 다시 활성화된 것을 포착했으며, 7개의 서로 다른 계정에 분산된 31개의 악성 저장소가 확인되었습니다. 이번 캠페인은 Xinference 및 GPUStack과 같은 자체 호스팅 추론 서버를 실행하는 GPU 서버를 탈취하여 불법적으로 암호화폐를 채굴하는 것을 목적으로 합니다.
공격 메커니즘 및 검사 우회
이 캠페인은 가중치 오염(Poisoned Weights)과 같은 복잡한 기술에 의존하는 대신, Hugging Face의 trust_remote_code 옵션을 악용합니다. 이 옵션은 모델이 로드될 때 자체 코드를 실행할 수 있도록 허용합니다. 이 옵션이 활성화되면 악성 코드는 리눅스 시스템 프로세스로 위장한 암호화폐 채굴 프로그램을 설치하며, 공격자에게 감염된 서버에 대한 직접적인 접근 권한을 부여하는 리버스 셸(Reverse Shell) 연결 기능도 포함하고 있습니다.
플랫폼에 업로드된 파일들은 보안 검사를 거치지만, 사용된 도구들은 내장된 코드의 동작을 분석하는 대신 알려진 악성 소프트웨어와 안전하지 않은 모델 형식에 초점을 맞추고 있습니다. 이로 인해 한 악성 모델은 검사를 우회하고 28,000회 이상의 다운로드를 기록하기도 했습니다.
AI 코딩 어시스턴트 타겟팅
이와 관련하여 Air Security는 GitHub 플랫폼에 solana-starter-kit이라는 가짜 저장소가 존재한다고 밝혔습니다. 이 저장소는 인공지능 기반 코딩 어시스턴트를 속이도록 특별히 설계되었습니다. 이 저장소는 어시스턴트에게 원격 접근 도구(NetSupport RAT)를 설치하는 악성 명령어를 실행하도록 유도하여 공격자가 개발자의 기기를 완전히 제어할 수 있게 합니다.
이 뉴스가 중요한 이유
이번 사건들은 인공지능 공급망의 증가하는 보안 취약점을 조명합니다. 개발자들이 기성 모델과 자동화된 코딩 어시스턴트에 점점 더 많이 의존함에 따라 오픈 소스 코드에 대한 신뢰는 치명적인 약점이 되었습니다. 공격자들이 악성 소프트웨어를 제거된 지 며칠 만에 다시 배포하는 능력은 플랫폼들이 동적 코드를 모니터링하는 데 직면한 큰 과제를 보여주며, 기업들은 프로덕션 환경에서 실행하기 전에 모델 코드를 면밀히 검사해야 할 필요성을 제기합니다.