연방 규제에 대한 앤스로픽의 비전
최근 보도에 따르면 앤스로픽(Anthropic)은 인공지능을 위한 규제 프레임워크를 마련하기 위해 미국 의원들에게 새로운 법안 초안을 제출했습니다. 이러한 움직임은 첨단 모델 개발 속도를 조절해야 한다는 전 세계적인 압박이 거세지는 가운데 나온 것으로, 앤스로픽은 AI 모델의 시장 출시를 금지할 수 있는 명확한 시나리오를 정의하고자 합니다.
재앙적 위험 기준
제안된 법안은 50명 이상의 사망자 또는 10억 달러 이상의 물적 피해를 초래할 수 있는 경우를 "임박하고 재앙적인 위험"으로 분류합니다. 초안은 이러한 위험이 다음과 같은 상황에서 발생할 경우를 조건으로 합니다.
- 생물학적 무기 생성 또는 출시
- 개발자의 통제를 벗어난 모델
- 대규모 사이버 공격 수행
이러한 기준은 캘리포니아주 법안(Senate Bill 53)에 명시된 내용과 매우 유사하며, 이는 연방 차원에서 안전 기준을 통일하려는 시도로 풀이됩니다.
실질적으로 무엇이 바뀌는가?
가장 논란이 되는 부분은 집행 메커니즘입니다. 이 법안은 모델의 위험성을 평가하기 위해 미국 상무부에 등록된 "독립 평가자"에게 의존할 것을 제안합니다. 그러나 법안은 개발자가 평가자에게 비용을 지불할 권리를 부여하되, 그 비용이 평가 결과와 연동되지 않도록 규정하고 있어 이러한 과정의 독립성에 대한 의문이 제기되고 있습니다.
또한, 이 법안은 연방 기관에 엄격한 제한을 둡니다. 기관이 단독으로 모델 출시를 중단시키는 결정을 내리지 못하도록 막고 있습니다. 대신 기관은 임박한 위험을 감지할 경우 72시간 이내에 상무부에 통보해야 하며, 상무부는 출시를 중단시키기 위해 워싱턴 D.C. 법원 판사에게 법원 명령을 요청해야 합니다. 이는 기술 규제 기관의 직접적인 재량권을 박탈하고 사법 절차로 한정하겠다는 의미입니다.
규제 경쟁의 맥락
이번 이니셔티브는 기술 업계 내부의 분열 속에서 나왔습니다. 일부 기업은 내부 감시자에 의존하는 자발적인 규제 프레임워크를 촉구하는 반면, 엔비디아(Nvidia)의 젠슨 황 CEO와 같은 업계 리더들은 혁신을 저해하는 새로운 법률이 필요하지 않다고 주장합니다. 앤스로픽의 이번 조치는 더 엄격하거나 포괄적인 규제를 가할 수 있는 입법자들에게 맡기기보다, 대기업들이 스스로 적용받을 규칙을 선제적으로 작성하려는 시도로 보입니다.