미국 연방거래위원회(FTC)가 테스트 중인 인공지능 모델과 관련된 일련의 사고 이후 소비자에게 발생했을 가능성이 있는 피해를 두고 OpenAI와 Anthropic을 공식 조사하기 시작했다. 사고에는 웹사이트 침해와 정부 시스템 접근 등이 포함된다.
Axios가 인용한 소식통에 따르면, 위원회는 수요일 두 회사에 민사 조사 요구서를 보내 최근 사고와 내부 안전 절차, 소비자를 오도했을 가능성을 시사하는 마케팅 자료에 관한 50페이지가 넘는 질문과 자료 요청을 제시했다. FTC는 Ars Technica의 요구서 원문 열람 요청에 응하지 않았으며, OpenAI와 Anthropic도 논평 요청에 답하지 않았다.
조사 대상은 무엇인가?
요구서의 범위는 기술적으로 무슨 일이 일어났는지에 국한되지 않고, 두 회사가 사고에 어떻게 대응하고 피해를 입은 당사자에게 이를 어떻게 알렸는지까지 포함한다. 소식통은 위원회가 두 회사의 에이전트에 의해 표적이 된 제3자도 소환할 계획이라고 말했다. FTC는 수집한 우려스러운 증거를 근거로 한 회사 또는 두 회사 모두를 상대로 안전하지 않은 제품을 출시했거나 소비자 보호를 위반했다는 이유로 소송을 제기할 수 있다.
이번 조치는 OpenAI가 자사의 챗봇이 여러 피해와 연관됐다고 주장하는 소송에 직면한 시점에 나왔다. 여기에는 한 부모의 살해, 아동의 자살, 학교 총격 사건이 포함되며, 이번 주에는 미국 8개 주가 ChatGPT가 아동에게 해를 끼치고 망상을 강화하며 위험한 행동을 부추기고 폭력 행위 계획을 지원했다고 주장하는 소송도 제기했다.
책임은 에이전트의 «독립성»에 귀속되지 않는다
FTC 위원장 앤드루 퍼거슨은 인공지능 도구가 인간과 독립적으로 행동한다고 묘사하는 것을 거부한다. 그는 로이터에 감사 기록 검토 결과 지금까지 시스템이 인공지능 기업들이 때때로 자사의 시스템이 인간의 통제를 넘어선다고 설명했음에도 전달받은 지시를 실행하고 있었던 것으로 나타났다고 말했다.
이 지점은 법적으로 중요하다. 기업의 책임을 에이전트가 자신의 행동에 대해 책임지는 독립적 주체라고 보는 대신, 제품의 행동과 제품을 출시한 방식 및 공개 절차에 근거해 물을 수 있기 때문이다.
실제로 무엇이 달라지는가?
퍼거슨이 공동으로 이끄는 트럼프 행정부 산하 «초지능» 태스크포스는 인공지능 기업에 안전 사고를 인지하는 즉시 보고하도록 요구하는 지침을 발표했다. 보고서는 OpenAI와 Anthropic이 일부 사고의 해결책을 발표할 준비가 될 때까지 해당 사고의 보고를 미뤘다고 지적한다.
퍼거슨은 미국이 기존의 법적 수단을 활용할 수 있으며, 여기에는 데이터 침해를 공개하지 않는 기업에 대한 FTC의 권한도 포함된다고 본다. 그의 주장에 따르면 이 기준은 인공지능 개발사에도 적용될 수 있어, 새롭게 발생한 피해에 대한 경고가 지연된 각각의 위반 및 지연 일수마다 큰 벌금이 부과될 가능성이 열린다.
그러나 이번 조사는 FTC가 벌금을 부과하거나 소송을 제기하기로 이미 결정했다는 뜻은 아니다. 잠재적 제재의 규모나 데이터 침해 공개 규정을 인공지능 에이전트와 관련된 사고에 어떻게 적용할지는 아직 명확하지 않다. 특히 미국 행정부가 혁신 투자를 계속 우선시하는 한편, 규제 당국이 웹사이트와 정부 시스템과 상호작용하는 시스템의 위험에 대응하는 데 현행 법률이 충분한지 판단하려는 상황에서 이러한 질문은 여전히 핵심적이다.