보안 기업 '클라록(Claroc)'의 보안 연구원들은 메타(Meta)의 새로운 AI 어시스턴트 '뮤즈(Muse)'에서 개인 및 기업의 매우 민감한 정보에 접근할 수 있는 보안 취약점을 발견했다고 발표했습니다. 문제는 대화 공유를 위한 웹 링크가 생성되는 방식에 있으며, 해당 도구가 개인정보 보호를 최우선으로 설계되었다는 회사의 이전 주장과 달리 공개 검색 도구를 통해 쉽게 발견될 수 있는 것으로 드러났습니다.
데이터는 어떻게 유출되는가?
Muse의 공유 기능은 링크를 가진 사람이라면 누구나 대화 내용, 이미지 또는 검색 결과를 볼 수 있는 고유한 URL을 생성하는 방식에 의존합니다. 일반적으로 기업들은 이러한 링크가 추측되는 것을 방지하기 위해 길고 복잡한 문자열을 사용합니다. 그러나 연구원들은 이러한 링크 구조의 핵심 설계 결정으로 인해 대규모 발견에 취약해졌다는 사실을 확인했습니다.
연구원들은 상용 서비스에서 제공하는 '수동적 DNS 검색(Passive DNS search)' 기술을 사용하여 Muse 사용자들이 공유한 6,800개의 링크를 확보했습니다. 이 링크들의 샘플을 열어본 결과, 어떤 경우에도 공개되어서는 안 될 데이터들이 노출되어 있었습니다.
노출된 데이터 사례
보고서는 유출된 링크에 포함된 충격적인 내용을 다음과 같이 공개했습니다:
- 주요 AI 연구소와의 비밀 통화를 준비 중인 고위직 지원자의 메모(내부 연락처 이름 및 회의 일정 포함).
- 최고경영자(CEO)를 대상으로 한 국가 마케팅 기업의 내부 수익 검토 자료.
- 요청 금액과 사업 세부 사항이 명시된 소상공인의 대출 신청서.
- 부분적인 계좌 번호와 거래 세부 정보가 포함된 은행의 사기 경고 알림이 담긴 할 일 목록.
- 특정 부동산 주소, 소득 및 모기지 수치가 정확하게 기재된 부동산 투자자의 내부 성과 보고서.
- 수십 명의 직원과 휴가 날짜가 나열된 특정 직장의 연간 직원 휴가 일정표.
개인정보 보호 약속과의 모순
이번 발견은 메타를 난처한 상황에 빠뜨렸습니다. 마크 저커버그 CEO가 지난달 Muse에 대해 "개인정보 보호와 보안에 중점을 두고 처음부터 구축되었다"고 언급했기 때문입니다. 연구원들은 이러한 링크를 수집하는 과정이 예상보다 훨씬 간단했다고 설명했습니다. 모든 공유 링크에 하위 도메인(cf.metaaiusercontent.com)이 사용된 덕분에 단 한 번의 쿼리만으로도 추적이 가능했으며, 링크를 처음 클릭하는 순간 공개 DNS 데이터베이스에 아카이빙되는 구조였습니다.
사용자에게 실질적으로 무엇이 달라지는가?
이번 사건은 AI 도구의 '링크 공유' 기능이 도메인 인프라를 엄격하게 보호하지 않을 경우 잠재적인 보안 위험을 초래할 수 있음을 보여줍니다. 사용자 입장에서 이는 링크가 소셜 미디어에 공개적으로 게시되지 않더라도, 공유 링크로 변환된 모든 대화는 기술적으로 '공개'된 것으로 간주해야 함을 의미합니다. AI 도구 사용자들은 금융 데이터, 영업 비밀 또는 특정 개인 정보가 포함된 대화를 공유하는 것을 피해야 합니다. 대신 텍스트를 수동으로 복사하여 암호화된 통신 채널을 통해 전달함으로써 검색 엔진이나 보안 데이터베이스로 유출되지 않도록 주의할 것을 권장합니다.