기업 내 인공지능 사용 보안에 집중하는 스타트업 Pluto Security가 잠복 단계를 벗어나며 4,200만 달러 규모의 자금을 조달했다. 직원들이 충분한 보안 검토 없이 만들거나 사용하는 도구와 애플리케이션에 대한 기업의 우려가 커지는 가운데 나온 소식이다.
최고경영자이자 공동 창업자인 Shahar Bahat는 새로운 인공지능 도구가 출시된 지 불과 2시간 만에 기업 환경에 등장할 수 있다고 말한다. Pluto의 데이터에 따르면 고객사에서 회사가 감지하는 위험의 약 60%는 ‘바이브 코딩(vibe coding)’으로 알려진 방식을 사용해 비개발자가 만든 도구와 관련돼 있다. 금융 부서가 가장 많았고, 마케팅과 법무 부서가 뒤를 이었으며, 개발자는 네 번째였다.
검토되지 않은 애플리케이션과 에이전트의 위험
Pluto의 도구는 Fortune 500 기업에 포함된 한 회사의 금융 부서 직원이 고객 데이터와 고객 이탈률을 관리하기 위해 만든 애플리케이션을 발견했지만, 해당 애플리케이션은 인터넷에 공개된 상태로 방치돼 있었다. Bahat는 회사가 수행한 개념증명 테스트에 악성 요소가 없었던 적이 없으며, 테스트 중 실제 공격을 포함한 확장 프로그램 패키지와 스킬도 있었다고 말한다.
Pluto는 애플리케이션이 구축되고 사용되는 방식이 빠르게 변하는 환경을 모니터링하기에는 기존 보안 도구만으로는 충분하지 않다고 본다. 회사는 사용자 행동에만 집중하는 대신 에이전트의 행동과 에이전트가 순간순간 수행하는 작업을 모니터링하려 한다.
도구 모니터링과 실행 중 개입
Pluto의 소프트웨어는 직원들이 사용하는 인공지능 도구와 함께 관련 스킬, 확장 프로그램, MCP 서버 및 기타 구성 요소, 그리고 직원들이 만드는 애플리케이션과 에이전트를 모니터링한다. 회사에 따르면 시스템은 위험한 구성 요소를 식별하고, 에이전트의 의심스러운 활동을 감지하며, 직원들이 도구를 사용하거나 개발하는 것을 전면적으로 막지 않고도 보안 정책을 적용할 수 있다.
이 시스템은 기기 보호 및 관리 플랫폼과 연결되며, 해당 플랫폼을 통해 또는 기기에 직접 센서를 배포할 수 있다. 또한 프롬프트, 명령어, 실행 중인 프로세스, 권한, 이전 활동 기록을 비롯한 데이터를 수집하고, 엔드포인트에서 경량 모델을 사용해 에이전트가 실행하려는 작업을 평가하는 데 도움을 준다.
공개된 주요 기능 중 하나는 에이전트가 작동하는 동안 개입하는 것이다. 예를 들어 에이전트가 사용자가 의도한 범위를 넘어서는 권한을 얻으려 할 경우, 시스템은 해당 작업을 중단하거나 세션에 지침을 추가해 에이전트가 확인을 받도록 요청할 수 있다.
자금 조달과 상업적 성장
이번 자금은 TLV Partners가 주도하고 사이버 보안 기업 Armis의 창업자들이 참여한 850만 달러 규모의 시드 라운드와, Jump Capital이 주도한 3,400만 달러 규모의 Series A 라운드로 구성된다. Series A에는 Check Point 공동 창업자 Shlomo Kramer의 벤처캐피털 회사인 Skinos와 다른 엔젤 투자자들도 참여했다.
Pluto는 4월부터 제품 판매를 시작했으며, 연간 반복 매출이 200만 달러를 넘어섰고 Oscar Health, Workato, Sixt, AlphaSense를 포함해 30곳 이상의 기업 고객을 확보했다고 말한다. 회사에는 미국과 이스라엘에 40명의 직원이 있으며, 자금을 제품 개발, 보안 연구 확대, 미국 내 입지 강화에 사용할 계획이다.
이 소식이 중요한 이유
여기서 실제로 변화한 점은 보안 모니터링의 초점이 직원 계정과 기존 애플리케이션에서 직원 대신 행동할 수 있는 도구, 에이전트, 구성 요소로 이동했다는 것이다. 그러나 제시된 수치는 회사의 발언에 근거하며, 해당 출처는 위험 측정 방법론이나 고객 결과에 관한 독립적인 세부 정보를 제공하지 않는다. 또한 시스템 개입의 정확한 범위나 오탐률도 명시하지 않는다. 따라서 이 분야가 감독과 직원의 인공지능 사용 자유 사이에서 균형을 이룰 수 있는지는 여전히 열린 질문으로 남아 있다.