인공지능 에이전트를 개발하는 기업들은 이러한 시스템이 사용자의 데이터에 폭넓게 접근하고 사용자를 대신해 작업을 수행해야 하는 상황에서 개인정보 보호를 경쟁의 핵심으로 삼으려 하고 있다. 그러나 Meta의 에이전트 Muse를 둘러싼 경험과, OpenAI가 더 안전한 대안으로 소개한 에이전트 Dots의 출시는 약속만으로는 데이터 보호를 입증하기에 충분하지 않다는 점을 보여준다.
Muse에서 Dots까지
Meta는 Muse를 OpenClaw보다 더 안전한 선택지로 내놓으며, 사용자 데이터가 안전한 가상 머신 내부에 저장된다고 밝혔다. 회사는 이를 브라우저, 처리 장치, 메모리, 저장 공간을 갖춘 격리된 Linux 컴퓨터라고 설명했다. 또한 Meta는 향후 가상 머신 내부에 있는 데이터에 자신이 접근할 수 없도록 검증 가능한 암호화 수단을 추가할 계획이라고 발표했다.
그러나 이러한 격리로도 현재 Meta 자체의 데이터 접근을 막지는 못했다. 또한 한 보안 연구자는 Muse를 장악할 수 있었던 제로데이 취약점을 발견했으며, 이 취약점은 이후 수정됐다. 출시 직전에 심각한 보안 문제도 보고됐는데, 그중에는 Meta 내부 데이터베이스에 접근할 수 있었을 가능성이 있는 취약점도 포함됐다.
Apptopia에 따르면 Muse는 몇 주 만에 미국 내 일일 활성 사용자 60만 명을 기록하며 빠르게 성장했고, 앱 스토어 순위에서도 선두에 올랐다. 그러나 빠른 확산이 데이터와 관련된 에이전트의 행태에 대한 우려를 해소하지는 못했다.
개인정보 보호 우려를 불러일으킨 것은 무엇인가?
Muse는 기본적으로 사용자가 입력한 내용을 Meta 모델 훈련에 사용하도록 설정되어 있으며, 사용자가 이를 거부할 수 있는 선택지를 제공한다. 또한 에이전트가 사적인 메시지를 읽고 업로드했다는 보고와, Marketplace를 통해 한 사용자의 주소를 낯선 사람에게 제공했다는 보고도 나왔다. 다른 사례에서는 시스템이 사용자의 친구와 가족 구성원에 대한 상세한 프로필을 작성했다. 여기서 문제는 단순히 소프트웨어 결함이 존재한다는 데 그치지 않는다. 시스템이 사용자가 에이전트의 활동 범위를 인식하지 못하는 방식으로 설계된 작업을 수행할 수 있다는 점도 문제다.
이러한 사례는 에이전트의 개인정보 보호가 단순히 기술적으로 데이터를 격리하는 문제만은 아니라는 점을 보여준다. 권한의 범위, 동의의 명확성, 그리고 사용자가 에이전트가 무엇을 읽거나 공유할 수 있는지 사전에 이해하는지가 함께 중요하다.
OpenAI의 약속과 Dots의 통제 기능
OpenAI는 9월 Dots를 발표하면서 이러한 비판을 활용했다. 회사는 DevDay에서 에이전트가 일정 금액을 초과하는 구매를 진행하지 못하도록 규칙을 설정하는 기능 등 개별적인 통제 기능을 선보였다. 또한 기업을 대상으로 데이터에 대한 더 강력한 통제 기능과 데이터 비보존 정책 옵션을 포함한 프레임워크를 제시했으며, 이를 통해 정보가 OpenAI 서버에 저장되지 않도록 할 수 있다고 설명했다.
OpenAI 관계자들은 회사가 신뢰할 수 있고 안전한 어시스턴트를 제공하기 위해 노력하고 있으며, Meta의 사용자 기반 규모 때문에 이러한 유형의 오류가 더욱 위험하다고 말했다. 그러나 현재까지 Dots와 관련해 광범위한 개인정보 보호 논란이 없었다는 점은 신중하게 해석해야 한다. 이 에이전트는 100달러부터 시작하는 ChatGPT 요금제에서만 이용할 수 있어 잠재적인 사용자 기반이 더 작기 때문이다.
이 소식이 중요한 이유는 무엇인가?
인공지능 에이전트가 메시지 관리, 구매, 계정 처리와 같은 작업을 수행하려면 기존의 대화형 도구보다 더 많은 데이터가 필요하다. 따라서 진정한 개인정보 보호 기준은 기업의 발표가 아니라, 사용자가 에이전트가 무엇에 접근하는지 파악하고 에이전트의 행동을 제한하며, 기업 자체나 외부 당사자가 데이터를 예상된 목적 밖에서 사용하는 것을 막을 수 있는지에 두어야 한다.
핵심적인 질문은 여전히 열려 있다. 동의 내용은 충분히 이해하기 쉬운가? 데이터 비보존 통제 기능은 발표된 대로 작동하는가? 데이터 격리를 독립적으로 검증하는 메커니즘은 무엇인가? 또한 이후 수정이 이뤄지기 전에 광범위한 데이터 접근 권한을 부여한 서비스 약관으로 비판받은 Instinct의 사례는 법적 약관과 사용자 경험이 보안 모델의 일부이며, 부차적인 세부 사항이 아니라는 점을 보여준다.
Muse와 Dots를 비교하면 인공지능 에이전트 시장이 세 가지 약속을 동시에 통해 신뢰를 구축하려 한다는 결론에 이른다. 실질적인 효용, 우려를 덜 유발하는 경험, 그리고 개인정보 보호다. 그러나 신뢰는 결국 출시 발표에서 이러한 약속을 얼마나 반복하는지가 아니라, 그 약속을 측정하고 검증할 수 있는 정도에 따라 결정될 것이다.