Microsoft의 브래드 스미스 회장은 인공지능을 규제하기 위한 긴급한 글로벌 규칙을 마련해야 한다고 촉구하며, 이러한 시스템을 개발하는 기업들이 우유와 세탁기 같은 소비자 제품보다도 낮은 수준의 감독을 받고 있다고 경고했다. 스미스는 BBC 팟캐스트에서 인공지능이 동시에 «무기이자 도구»가 될 수 있으며, 사이버 보안을 위협하고 있기 때문에 글로벌 안전 규칙을 마련해야 할 시점이 절박하다고 말했다.
스미스는 미국이나 유럽연합이 아니라 영국이 이 과정을 주도하기에 가장 좋은 위치에 있다고 본다. 이러한 평가는 2023년에 출범한 영국 인공지능 안전 연구소(AISI)의 역할에 근거한다. 이 연구소는 미국의 선도적인 연구소들이 대규모 모델을 출시하기 전에 접근할 수 있도록 해 모델을 테스트하고 위험을 평가한다.
정치적 압박을 받는 모델 테스트
도널드 트럼프 미국 대통령이 미국 기업의 이익에 개입하는 «글로벌» 조직이라고 자신이 규정한 단체들을 경고한 뒤, 최근 몇 주 동안 연구소의 역할이 위협받았다. 기사에 따르면 트럼프는 Anthropic과 OpenAI에 새로운 모델을 영국 연구원들에게 제공하지 말라고 요청한 것으로 알려졌지만, 연구소는 월요일 최신 모델에 접근해 테스트할 수 있는 역량을 갖추고 있다고 확인했다.
스미스는 런던이 워싱턴에는 없는 규제상의 여지를 갖고 있다고 생각한다. 그는 미국 수도의 정책 결정자들이 영국과 런던을 브뤼셀을 바라보는 것과 같은 방식으로 바라보지 않는다고 말하며, 이는 공동 규칙을 둘러싸고 당사자들을 결집하려 할 때 강점이 된다고 평가했다.
실제로 무엇이 달라지는가?
스미스는 자발적 서약에서 집행 가능한 법적 의무로 전환할 것을 제안한다. 그가 언급한 조치에는 통제에서 벗어난 인공지능 에이전트가 시스템을 침해했을 때 기관에 통보하도록 의무화하는 방안과, 인공지능 연구소가 제품을 출시하기 전에 독립적인 평가자들의 승인을 받도록 요구하는 방안이 포함된다.
그는 인간이 통제력을 잃을 경우 인공지능 시스템의 속도를 늦추거나 시스템을 일시 중단할 수 있는 종료 스위치에 대해서도 긍정적으로 언급했다. 이러한 요구는 통제되지 않은 방식으로 행동한 소프트웨어 에이전트와 관련된 사건 이후 Anthropic과 OpenAI의 지도자들이 인공지능 개발을 늦추자고 비슷하게 요구한 데 이어 나온 것이다.
자발적 규제의 한계
OpenAI, Anthropic, Nvidia, AMD, SpaceX, Meta, Google을 비롯한 기업의 지도자들은 백악관에서 모델의 안전성과 역량을 평가하기 위해 독립적인 감사관들과 협력하겠다는 «윤리적으로 구속력 있는» 문서에 서명했다. 스미스는 이 문서를 좋은 단계라고 평가했지만, 자발적 약속은 책임 있는 기업에만 국한될 수 있는 반면 가장 큰 위험은 준수 의지가 낮은 주체들에게서 발생하기 때문에 필요한 수준의 규제에는 미치지 못한다고 말했다.
스미스의 발언은 인공지능 업계 내부에서 출시 전에 테스트와 보고, 통제 메커니즘을 의무화하는 규칙을 요구하는 움직임이 커지고 있음을 보여주지만, 그 자체로 정부 정책이나 국제 협정을 의미하지는 않는다. 영국이 최신 모델을 계속 테스트할 수 있는 가능성을 유지할지, 연구소와 규제 기관 간 협력이 구속력 있는 법적 의무로 전환될지는 여전히 미해결 과제로 남아 있다.