호주 기업 Apate.ai는 수천 개의 인공지능 에이전트를 활용해 사기 피해를 입을 가능성이 있는 사람인 것처럼 가장한 뒤, 전화 통화, 메시지, 이메일, 피싱 링크, 소셜 미디어 그룹을 통해 사기꾼과 상호작용한다. 목적은 단지 사기꾼의 시간을 낭비하게 하는 데 그치지 않고, 은행과 통신사, 정부 기관, 유틸리티 기업이 사기 방지 시스템을 개선하는 데 활용할 수 있는 운영 정보를 수집하는 것이다.
Apate에 따르면 자사의 에이전트 군은 지금까지 250만 건의 대화를 진행했으며, 이는 사기꾼의 시간 17년을 낭비하게 한 것과 같다. 이러한 상호작용에서 에이전트는 은행 계좌번호, 암호화폐 지갑, 전화번호, 악성 웹사이트, 사기꾼이 사칭하는 브랜드와 그들이 운영하는 캠페인의 세부 정보를 밝혀내려고 한다.
시간 낭비에서 증거 수집으로
에이전트는 연령, 성별, 억양, 언어가 서로 다른 인물을 연기할 수 있어 사기꾼을 더 오랫동안 대화에 붙잡아 둘 수 있다. 고객은 에이전트에 은행 계좌번호나 암호화폐 지갑 주소를 확보하는 등 특정 업무를 맡길 수도 있다. 회사는 고객에게 사용자, 직원, 브랜드, 제품을 겨냥한 사기 행위에 관한 정보를 보여주는 분석 포털도 제공한다.
Apate는 첨단 모델과 회사가 내부적으로 조정한 모델을 함께 활용하며, 에이전트가 사기꾼과 나눈 대화와 Macquarie University에서 창립자이자 최고경영자인 Dali Kaafar가 수행한 연구를 바탕으로 모델을 훈련한다.
실제로 무엇이 달라지는가?
이 접근법은 피해가 발생한 뒤 대응하는 방식에서 피해가 발생하기 전에 징후를 수집하는 방식으로의 전환에 초점을 맞춘다. 회사의 공동 창립자이자 최고상업책임자인 Brad Joffe에 따르면, 통신사가 번호를 차단해도 사기꾼은 새로운 번호를 사용할 수 있으며 은행 거래를 모니터링하는 것은 사기꾼이 고객에게 접근한 뒤일 수 있다. 따라서 Apate는 사기꾼과의 대화에서 직접 정보를 얻으려 한다.
고객 목록에는 Commonwealth Bank of Australia와 TPG Telecom을 비롯해 유틸리티 기업, 통신사, 기타 정부 기관이 포함된다. 회사는 TPG가 약 59만 건의 통화를 자사의 에이전트에게 전달했으며, Commonwealth는 공개적으로 보고된 사기 손실이 76% 감소했다고 기록했다고 밝혔다. 또한 신원이 공개되지 않은 한 호주 은행은 외부 에이전트를 활용해 22개의 사기 캠페인을 방해했다.
자금 조달과 국제적 확장
Apate는 시드니의 Macquarie University에서 수행된 연구를 바탕으로 2024년에 설립됐다. 회사의 아이디어는 Kaafar가 사기꾼을 44분 동안 통화 상태로 붙잡아 둔 사기 전화를 계기로 시작됐으며, 이후 통화 내용을 추출하고 사기 탐지 및 방지를 개선하기 위한 머신러닝과 자연어 처리 연구로 발전했다.
회사는 8월에 Lobby Capital, OIF Ventures, Investible, Concept Ventures, Baobab Ventures로부터 시드 라운드 투자금 815만 달러를 조달했다. Joffe는 총 조달액이 1,000만 달러에 가까워졌으며, 직원 20명으로 구성된 회사가 최근 투자금을 제품 개발과 국제적 확장에 사용할 계획이라고 밝혔다. 여기에는 런던 사무소 개설과 미국 내 입지 강화가 포함된다.
이 서비스는 미국 연방수사국이 2025년 인공지능을 활용한 범죄와 관련된 신고를 2만 2,000건 이상 접수했으며, 손실액이 약 8억 9,300만 달러에 달하고 그중 6억 3,200만 달러 이상이 투자 사기와 관련됐다고 출처가 언급한 시점에 등장했다. 손실 감소와 캠페인 방해에 관한 공개 결과는 회사가 발표한 것이며, 출처는 측정 방법론이나 사기꾼과 자동으로 상호작용할 때 발생하는 법적·운영적 위험에 대한 대응 메커니즘에 관한 독립적인 세부 정보를 제시하지 않았다.