오픈 소스 AI 모델 실행을 위한 고성능 인프라 제공 전문 스타트업인 Fireworks AI는 새로운 보안 침해 사고를 겪었다고 밝혔습니다. 이번 사고는 10월 23일에 시작되었으며, 공격자들은 회사의 연구 개발(R&D) 장치를 호스팅하는 외부 클라우드 서비스 제공업체가 입은 침해를 악용하여 Fireworks의 개발 장치에 접근하고 승인되지 않은 작업을 실행했습니다.
회사는 공격자들이 리소스 메타데이터(리소스 ID, 표시 이름, 설명 등)와 결제 정보(배송 및 청구 주소, 결제 날짜, 계정 잔액 포함)를 포함한 일련의 민감한 데이터에 접근할 수 있었다고 설명했습니다. 더욱 심각한 것은 공격자들이 모델 가중치(model weights) 및 일부 고객의 미완성 데이터에 접근했다는 점입니다. 그러나 회사는 결제 카드 번호를 저장하지 않기 때문에 해당 정보는 영향을 받지 않았다고 확인했습니다.
이 뉴스가 중요한 이유
이번 침해 사고의 중요성은 AI 분야에서 "클라우드 공급망(Cloud Supply Chain)" 위험을 조명한다는 데 있습니다. 이번 침해는 처음에 Fireworks를 직접 겨냥한 것이 아니라 제3자를 통해 이루어졌으며, 이는 서비스 제공업체의 취약점이 어떻게 모델 가중치 및 개발 데이터와 같은 매우 민감한 기술 자산에 대한 접근 통로를 열 수 있는지 보여줍니다. 또한, 이번 사건은 공격자가 API 키를 훔쳐 대규모 모델의 기능을 사기 행위에 사용하여 피해자의 운영 비용을 엄청나게 높이는 "LLMjacking"이라고 알려진 증가하는 공격 패턴과도 관련이 있습니다. 이러한 비용은 무단 사용으로 인해 일부 사례에서 100만 달러에 달하기도 했습니다.
취해진 조치
10월 24일 활동이 발견되자마자 Fireworks는 사고 대응 프로토콜을 실행하기 시작하여 자격 증명 및 서비스 계정을 취소 및 교체하고, 승인되지 않은 네트워크 경로를 제한하며, 영향을 받은 시스템을 격리했습니다. 회사는 현재 사고의 전체 범위를 조사하고 향후 공격으로부터 시스템을 보호하기 위해 Palo Alto Networks의 사고 대응 부서인 Unit 42와 협력하고 있습니다.