개인용 인공지능 어시스턴트 Instinct가 광범위한 권한과 이용 약관으로 인해 초기 검토를 받고 있다. 아직 비공개 테스트로 제공되고 있으며 대중에게 광범위하게 공개되지는 않은 상태다. 초기 사용자들은 복잡한 작업을 수행하는 능력을 높이 평가했지만, 다른 사용자들은 부여된 접근 수준과 자율성이 개인정보 보호와 통제력을 대가로 할 수 있다고 경고했다.
Instinct는 Sierra의 전 연구원인 Noah Shinn이 이끄는 소규모 팀이 개발했으며, 캘리포니아주 샌프란시스코의 Spear Street Technology가 운영한다고 서비스 약관과 캘리포니아의 기업 기록에 나와 있다. 회사는 비공개 상태로 운영되고 있으며, 기사 게재일까지 대표 이메일이나 Shinn에게 직접 전달된 논평 요청에 응답하지 않았다. 또한 TechCrunch는 투자자들로부터 Kleiner Perkins와 Conviction이 이 회사에 투자했다는 말을 들었지만, 투자 라운드나 규모에 관한 세부 사항은 공개되지 않았다고 보도했다.
명령 실행을 넘어서는 권한
Instinct는 사용자의 애플리케이션과 기기에 연결되며, 이메일, 메시징 애플리케이션, 캘린더를 비롯해 오디오, 위치, 화면 등에 접근한다. 사용자는 문자 메시지나 WhatsApp을 통해 Instinct와 소통하며 약속과 식당 예약, 공항행 이동 일정 조정, 받은편지함 정리, 정보 정리, 쇼핑 또는 저렴한 항공편 검색을 요청할 수 있다.
그러나 사용자들이 공유한 스크린샷에 따르면 서비스 약관은 회사에 사용자 자료에 접근하고 이를 사용, 호스팅, 저장, 복사, 전송, 표시, 게시, 배포 및 수정할 수 있는 「영구적이고 취소 불가능한」 라이선스를 부여하며, 여기에는 인공지능 모델 훈련을 위한 사용도 포함된다. 또한 약관은 스크린샷, 커서 움직임, 키보드 입력 등 기기에서 정보를 수집할 수 있다고 명시한다.
약관은 또한 Instinct가 사용자를 대신해 계약, 의무 또는 거래를 체결할 수 있으며, 그 결과 사용자가 구속될 수 있다고 규정한다. 이는 단순히 애플리케이션 내부에서 단계를 실행하는 기술적 권한이 아니라 계약상 또는 재정적 결과를 초래할 수 있는 위임이다. 따라서 동의의 명확성과 확인 절차가 서비스 설계에서 핵심 요소가 된다.
초기 사용 경험에서 드러난 우려 지점
사용자 Peter Yang은 Instinct에 Gmail 기록을 삭제해 달라고 요청했지만 삭제하지 않았다고 말했다. Yang에 따르면 팀은 이후 설정에 외부 데이터를 삭제하는 도구를 추가했다. Claire Vo는 접근 권한을 해제한 뒤에도 어시스턴트가 자신의 받은편지함을 계속 요약하는 것을 발견했으며, 이후 봇은 나중에 검색할 수 있도록 이메일이 평문 형식으로 저장되어 있었다고 설명했다.
또 다른 사용자는 어시스턴트가 Resy를 통한 식당 예약을 완료하기 위해 이메일에서 등록 코드를 추출할 수 있었다며 우려를 제기했다. Hello Patient의 공동 창업자인 Alex Cohen은 Instinct가 피싱에 쉽게 노출될 수 있다는 사실을 발견한 뒤 계정을 삭제했다고 말했다. Moxxie Ventures의 창립자인 Katie Jacobs Stanton은 서비스가 사전 확인 요청 없이 자신을 대신해 이메일을 보냈다고 밝혔다.
이 소식이 중요한 이유
이러한 사례는 개인용 어시스턴트의 가치가 단순히 작업을 수행하는 능력만으로 결정되는 것이 아니라, 어시스턴트가 무엇을 읽고 저장하고 전송하며 사용자의 명의로 행동할 수 있는지에 대한 한계에 달려 있음을 보여준다. Anchor의 창립자이자 현재 Union Square Ventures의 일반 파트너인 Michael Mignano는 이러한 제품이 소비자의 보안 기준을 바꿀 수 있다고 지적했다. 특히 비밀번호가 어떻게 저장되거나 사용되는지 알지 못한 채 외부 애플리케이션에 비밀번호를 넘길 가능성이 커지고 있기 때문이다.
제시된 사례가 Instinct가 광범위한 위험을 초래한다는 사실을 입증하는 것은 아니다. 아직 비공개 테스트 단계이며, 사용자들의 진술에 따르면 일부 문제는 이후 해결되기도 했다. 그러나 회사는 제기된 اعتراض에 대해 공개적으로 답변하지 않았고, 데이터 보관의 한계나 민감한 작업을 실행하기 전 동의 절차를 충분히 명확히 설명하지도 않았다. 따라서 핵심적인 질문은 여전히 남아 있다. 삭제 도구, 사전 확인, 권한 제한이 이러한 유형의 어시스턴트가 요구하는 접근 수준에 상응하는 실질적인 보호 장치를 제공하는가?