메타(Meta)는 보안 연구원들이 공개 대화 링크와 그 내용을 웹을 통해 쉽게 찾고 접근할 수 있게 만든 기술적 결함을 발견한 이후, 이전에 공유된 모든 파일과 문서에 대해 새로운 링크를 발행하는 보안 조치를 취한 뒤 자사의 AI 에이전트인 '뮤즈(Muse)'의 공유 기능을 재가동한다고 발표했습니다.
결함의 세부 사항 및 데이터 노출 메커니즘
이번 위기는 이번 주 초 보안 회사 '클라록(Claroc)'의 연구원들이 Muse 어시스턴트에서 공유된 대화에 할당된 URL이 대화 제목으로부터 자동으로 생성되어 공용 DNS(Public DNS) 레코드에 기록된다는 사실을 밝혀내면서 시작되었습니다. 이러한 설정 오류로 인해 직접적인 해킹 없이도 온라인을 통해 내부 페이지와 문서를 찾을 수 있는 가능성이 열렸습니다.
연구원들은 한 마케팅 회사의 내부 매출 검토 자료와 소기업 소유주의 대출 신청서 등 민감한 파일에 접근할 수 있었다고 보고했습니다. '아스 테크니카(Ars Technica)'가 이 문제에 대해 문의하기 위해 언론 접촉을 시도하자, 메타는 사건을 조사하고 취약점을 보완하기 위해 공유 기능을 일시적으로 중단하기로 결정했습니다.
문제 해결 및 대화와 에셋의 구분
메타의 관계자인 데이비드 싱글턴(David Singleton)은 플랫폼 'X'에 올린 게시물을 통해 회사가 근본적인 결함을 수정하고 공유 기능의 운영을 재개했다고 설명했습니다. 싱글턴은 해당 소프트웨어 결함이 메타가 '에셋(Artifacts)'이라 부르는 것, 즉 Muse 내에서 생성되거나 저장된 문서 및 이미지의 링크에 국한된 것이었으며, 텍스트 대화 자체의 공유 메커니즘에 발생한 결함은 아니었다고 강조했습니다.
보안 수정 조치에는 취약점이 해결되기 전에 생성된 모든 이전 링크의 효력을 무효화하는 작업이 포함되었습니다. 이에 따라 해당 파일들은 완전히 새로운 링크를 갖게 되었습니다. 이전 링크를 방문하려는 사용자는 콘텐츠 제작자에게 새 링크를 요청하라는 알림을 받게 됩니다. 싱글턴은 이에 대해 "이 조치가 다소 혼란을 줄 수 있음을 인지하고 있으며 이러한 불편에 대해 사과드립니다. 하지만 사용자 데이터 보호가 항상 최우선이어야 합니다"라고 언급했습니다.
이번 발전이 AI 플랫폼 보안에 의미하는 바는 무엇인가?
이번 사건은 대화형 생성 AI 도구들이 직면한 지속적인 과제를 조명합니다. 기업들이 사용자 간 결과물과 문서 공유 메커니즘을 간소화하려고 노력함에 따라, 추측 가능한 링크를 생성하거나 이를 공용 DNS 레코드에 포함하는 것과 같은 느슨한 엔지니어링 관행은 매우 민감한 금융 및 개인 데이터의 의도치 않은 유출로 이어질 수 있습니다. 이는 개발 팀이 공유 링크를 격리하고 대중에게 공개하기 전에 추적 불가능한 암호화된 식별자를 부여해야 함을 시사합니다.