찰스 국왕, ‘너무 늦기 전에’ 인공지능 지도자들에게 통제 도입 촉구

찰스 국왕은 인공지능 기업 지도자들과 정부 관계자들에게 이 기술을 ‘너무 늦기 전에’ 충분히 통제할 방법을 찾아야 한다고 촉구했다. 이는 그가 9월 17일 목요일 스코틀랜드 에어셔에 있는 Dumfries House에서 주최한 비공개 정상회의에서 나온 발언이다.

회의에는 Nvidia의 최고경영자 Jensen Huang, OpenAI와 Anthropic의 지도자들, 신임 영국 인공지능 장관 Kanishka Narayan, 영국 대외정보기관 수장이 참석했다. 교황에게 인공지능에 관해 조언하는 Paolo Benanti도 참석했다. OpenAI에서는 최고재무책임자 Sarah Friar가 참석했고, Anthropic에서는 글로벌 업무 담당자 Tino Cuéllar가 대표로 참석했다.

이점과 위험 모두에 대한 경고

국왕은 인공지능이 특히 의학과 과학 분야에서 삶을 개선하고 구할 수 있는 큰 잠재력을 지니고 있다고 말했다. 그러나 동시에 이 기술의 개발자들이 인공지능이 ‘더 어두운 능력’, 어쩌면 생명을 빼앗을 능력까지 보유할 가능성에 대해 점점 더 경고하고 있다고 지적했다.

찰스는 이러한 우려를 기술이 잘못된 사람들의 손에 들어가 재앙적일 수 있는 방식으로 사용될 때 발생하는 ‘실존적 위험’과 연결했다. 또한 인공지능의 빠른 발전을 ‘흥미롭고 매우 우려스러운’ 일이라고 표현하며, 참석자들에게 이 기술이 인간과 사회, 자연계에 계속 봉사하도록 보장해 달라고 촉구했다.

보도에 따르면 국왕은 약 20분만 머문 뒤 참석자들이 서로 논의를 이어가도록 자리를 떠났다. Cuéllar는 Anthropic이 참석하게 되어 영광이었다며, 공익을 위한 인공지능의 역할을 논의하기 위해 업계 지도자들과 사회 각 부문의 목소리를 한자리에 모은 국왕에게 감사를 표했다.

이 회의가 중요한 이유

이번 회의는 새로운 규제 정책이나 구속력 있는 합의를 발표한 것은 아니다. 그러나 인공지능 위험에 관한 논의가 모델 개발 기업, 정부, 정보기관, 종교 및 사회 인사들을 한자리에 모으는 공간으로 이동했음을 보여준다. 첨단 모델 개발을 늦춰야 하는지, 아니면 더 빠른 속도로 계속해야 하는지를 둘러싼 논쟁이 이어지는 상황에서 이러한 교차점은 더욱 중요해지고 있다.

이번 정상회의는 인간보다 더 똑똑한 기계를 구축하려는 기업들의 경쟁을 공개적으로 경고한 Anthropic 연구자의 사임 며칠 뒤에 열렸다. Sam Altman, Elon Musk, Dario Amodei는 개발 속도를 늦추자고 촉구했다. 반면 Jensen Huang과 미국 대통령 Donald Trump는 이러한 요구를 거부했다. 트럼프는 미국이 인공지능 분야에서 중국을 앞서고 있으며, 이 분야에서 승리하는 쪽이 더 광범위한 경쟁에서도 승리할 것이라고 말했다.

구체적인 실행 방안 없는 국제 협력

찰스는 또한 인공지능을 공익을 향하도록 이끄는 방법에 대해 국제적 협력과 합의를 촉구했다. 그러나 출처에는 정상회의의 공식 결과, 구체적인 감독 메커니즘 또는 이러한 요구를 정책으로 전환하기 위한 일정이 언급되어 있지 않다. 자료에 따르면 Anthropic이 Fable과 Mythos 두 모델에 대한 접근을 미국 내 고객으로 제한한 이후, 인공지능 주권을 둘러싼 논쟁도 여전히 이어지고 있다.

certi.news의 분석: 이번 정상회의의 실제 가치는 새로운 결정이 내려졌다는 데 있지 않고, 인공지능 거버넌스를 논의하는 당사자의 범위가 확대됐다는 데 있다. 이는 안전 고려사항, 지정학적 경쟁, 기술 기업의 이해관계 사이의 분명한 충돌을 반영하며, 핵심 질문은 여전히 열려 있다. 누가 통제의 한계를 정하며, 개발 속도가 기관의 대응 능력을 넘어가기 전에 이를 국제적으로 어떻게 적용할 것인가?