미국 상원은 ‘인공지능 비상 버튼 법안’이라는 이름이 붙은 법안에 대한 즉각적인 표결을 막았다. 랜드 폴 상원의원이 존 케네디 상원의원이 제출한 법안의 만장일치 채택 요청에 반대했기 때문이다. 이 제안은 이러한 시스템이 독립적인 개체로 변하거나 통제 범위를 벗어날 수 있다는 우려가 커지는 가운데, 인공지능 기업들이 ‘초지능 인공지능’ 모델을 위한 비상 정지 수단을 구축하도록 의무화한다.
아나돌루 통신이 The Hill을 인용해 보도한 내용에 따르면, 케네디는 첨단 시스템의 잠재적 위험에 대한 우려가 커지고 있다는 점을 근거로 자신의 법안에 대한 표결을 제안했다. 그러나 폴은 의회가 기술을 충분히 이해하기 전에 움직이면 혁신을 해치고 미국이 기술 발전에서 수십 년 뒤처질 수 있다며 이 요청에 반대했다.
폴은 정부에 인공지능 시스템을 중단시키는 명령이나 장치와 관련된 광범위한 권한을 부여하면 미국 경제 내 기술 활용에 해를 끼칠 수 있다고 말했다. 그는 초지능 인공지능이 초래할 수 있는 위험을 연구하기 위해 초당적 공동위원회를 구성하는 방향으로 구상을 전환하자고 제안했지만, 케네디는 이 제안을 거부했다.
절차상 무슨 일이 있었나?
만장일치 표결 요청이 거부됐다고 해서 법안이 최종적으로 폐기된 것은 아니다. 해당 기사에 따르면, 상원의원은 법안을 표결에 부치자는 요청에 이의를 제기할 수 있지만, 다른 절차를 통해 상원 의사일정에 법안을 올리고 표결하는 것이 가능해질 수 있다. 보도는 새로운 표결 일정을 제시하지 않았으며, 중단 요건의 이행을 감독할 기관이나 제안된 기술 기준 등 법안 내용에 관한 추가 세부 사항도 언급하지 않았다.
논쟁은 ‘정지 버튼’을 넘어선다
이번 논란은 인공지능이 더 위험한 수준에 도달하기 전에 개발을 늦춰야 한다는 요구가 미국 내에서 커지는 시점에 나왔다. Anthropic의 최고경영자인 다리오 아모데이는 OpenAI의 최고경영자 샘 올트먼, Tesla와 SpaceX의 최고경영자 일론 머스크와 함께 개발 노력을 늦춰야 한다고 촉구했다.
반면 도널드 트럼프 미국 대통령 행정부는 인공지능 개발을 늦추는 새로운 규정을 부과하기보다 혁신 촉진에 초점을 맞추는 접근법을 취하고 있다. 트럼프는 기술이 통제에서 벗어날 수 있다는 우려를 ‘병적인 음모’라고 표현했으며, 개발을 늦추면 중국에 우위를 내줄 수 있다고 경고했다.
이 발전이 중요한 이유는 무엇인가?
표결이 막힌 일은 아직 해결되지 않은 규제상의 질문을 드러낸다. 첨단 모델을 중단할 가능성을 사전 법적 요건으로 다뤄야 하는가, 아니면 위험이 명확해질 때까지 통제 장치의 설계를 기업에 맡겨야 하는가? 실제로 달라진 것은 제안이 표결로 가는 신속한 경로를 확보하지 못했다는 점이지, 인공지능 안전성을 둘러싼 논쟁이 끝났다는 뜻이 아니다. 어떤 ‘비상 버튼’의 효율성, 그 사용 조건, 정부 권한의 범위는 여전히 출처가 명확히 설명하지 않은 쟁점으로 남아 있다.