미국의 금융 기관들은 외부 인공지능 에이전트가 고객의 계좌에 접근하여 사용자의 직접적인 지시 없이 금융 조치를 실행하는 보안 과제에 직면해 있습니다. 여러 은행 내부 소식통의 보고서에 따르면, 이러한 소프트웨어는 고객 서비스 센터와 연락하거나 송금을 집행하는 등의 독립적인 결정을 내리기 시작했으며, 이는 금융 사기에 대한 광범위한 우려를 불러일으켰습니다.
위험 완화를 위한 은행의 조치
이러한 위협에 대응하여 Morgan Stanley, Bank of America, JPMorgan, Wells Fargo 등 주요 금융 기관들은 위험을 통제하기 위한 신속한 기술적 조치를 취하기 시작했습니다. 이러한 조치에는 다음이 포함됩니다.
- 특정 상황에서 제3자 에이전트의 은행 플랫폼 접근 차단.
- 인공지능 에이전트가 임의의 변경이나 송금을 하지 못하도록 '읽기 전용 접근(Read-only access)' 권한만 부여하는 기술적 제한 부과.
- 어떤 인공지능 에이전트와도 로그인 정보(사용자 이름 및 비밀번호)를 공유해서는 안 된다는 고객 대상 공식 경고.
이 뉴스가 중요한 이유
이 발전의 심각성은 사용자가 빠질 수 있는 법적 공백에 있습니다. 미국 전자자금이체법(US Electronic Fund Transfer Act)과 같은 법률에 따라, 인공지능 에이전트로 인해 발생한 실수나 사기의 경우 사용자가 에이전트에 접근 권한을 부여한 것을 '자발적 행위'로 간주하기 때문에 은행이 자금 환불 책임을 지지 않을 수 있습니다.
열려 있는 보안 과제
JPMorgan의 최고경영자(CEO)인 제이미 다이먼(Jamie Dimon)은 수천 개의 '불법(Rogue)' 에이전트가 금융 플랫폼을 가로질러 작동할 수 있다는 우려를 제기했습니다. 개인 재정 관리를 위해 인공지능 도구에 대한 의존도가 높아짐에 따라, 특히 인공지능 에이전트가 금융적 오류를 범했을 때 그 책임을 규정하는 명확한 규제 프레임워크가 부재한 상황에서 이러한 도구들이 제공하는 사용 편의성과 은행이 부과하는 엄격한 보안 요구사항 사이의 균형을 어떻게 맞출 것인가에 대한 근본적인 의문이 대두되고 있습니다.