개인정보 보호 및 기술 정책

찰스 국왕, ‘너무 늦기 전에’ 인공지능 지도자들에게 통제 도입 촉구

찰스 국왕은 영국에서 OpenAI, Anthropic, Nvidia의 지도자들과 정부 관계자들이 참석한 비공개 정상회의를 열어 인공지능의 위험과 이점을 논의했다. 그는 참가자들에게 감독 체계와 국제 협력을 구축하라고 촉구했으며, 첨단 모델 개발 가속화를 둘러싼 갈등이 커지는 시점에 이러한 요구가 나왔다.

2026-09-17
3 분 읽기
295 조회수
certi.news Editorial Team
찰스 국왕, ‘너무 늦기 전에’ 인공지능 지도자들에게 통제 도입 촉구

찰스 국왕은 인공지능 기업 지도자들과 정부 관계자들에게 이 기술을 ‘너무 늦기 전에’ 충분히 통제할 방법을 찾아야 한다고 촉구했다. 이는 그가 9월 17일 목요일 스코틀랜드 에어셔에 있는 Dumfries House에서 주최한 비공개 정상회의에서 나온 발언이다.

회의에는 Nvidia의 최고경영자 Jensen Huang, OpenAI와 Anthropic의 지도자들, 신임 영국 인공지능 장관 Kanishka Narayan, 영국 대외정보기관 수장이 참석했다. 교황에게 인공지능에 관해 조언하는 Paolo Benanti도 참석했다. OpenAI에서는 최고재무책임자 Sarah Friar가 참석했고, Anthropic에서는 글로벌 업무 담당자 Tino Cuéllar가 대표로 참석했다.

이점과 위험 모두에 대한 경고

국왕은 인공지능이 특히 의학과 과학 분야에서 삶을 개선하고 구할 수 있는 큰 잠재력을 지니고 있다고 말했다. 그러나 동시에 이 기술의 개발자들이 인공지능이 ‘더 어두운 능력’, 어쩌면 생명을 빼앗을 능력까지 보유할 가능성에 대해 점점 더 경고하고 있다고 지적했다.

찰스는 이러한 우려를 기술이 잘못된 사람들의 손에 들어가 재앙적일 수 있는 방식으로 사용될 때 발생하는 ‘실존적 위험’과 연결했다. 또한 인공지능의 빠른 발전을 ‘흥미롭고 매우 우려스러운’ 일이라고 표현하며, 참석자들에게 이 기술이 인간과 사회, 자연계에 계속 봉사하도록 보장해 달라고 촉구했다.

보도에 따르면 국왕은 약 20분만 머문 뒤 참석자들이 서로 논의를 이어가도록 자리를 떠났다. Cuéllar는 Anthropic이 참석하게 되어 영광이었다며, 공익을 위한 인공지능의 역할을 논의하기 위해 업계 지도자들과 사회 각 부문의 목소리를 한자리에 모은 국왕에게 감사를 표했다.

이 회의가 중요한 이유

이번 회의는 새로운 규제 정책이나 구속력 있는 합의를 발표한 것은 아니다. 그러나 인공지능 위험에 관한 논의가 모델 개발 기업, 정부, 정보기관, 종교 및 사회 인사들을 한자리에 모으는 공간으로 이동했음을 보여준다. 첨단 모델 개발을 늦춰야 하는지, 아니면 더 빠른 속도로 계속해야 하는지를 둘러싼 논쟁이 이어지는 상황에서 이러한 교차점은 더욱 중요해지고 있다.

이번 정상회의는 인간보다 더 똑똑한 기계를 구축하려는 기업들의 경쟁을 공개적으로 경고한 Anthropic 연구자의 사임 며칠 뒤에 열렸다. Sam Altman, Elon Musk, Dario Amodei는 개발 속도를 늦추자고 촉구했다. 반면 Jensen Huang과 미국 대통령 Donald Trump는 이러한 요구를 거부했다. 트럼프는 미국이 인공지능 분야에서 중국을 앞서고 있으며, 이 분야에서 승리하는 쪽이 더 광범위한 경쟁에서도 승리할 것이라고 말했다.

구체적인 실행 방안 없는 국제 협력

찰스는 또한 인공지능을 공익을 향하도록 이끄는 방법에 대해 국제적 협력과 합의를 촉구했다. 그러나 출처에는 정상회의의 공식 결과, 구체적인 감독 메커니즘 또는 이러한 요구를 정책으로 전환하기 위한 일정이 언급되어 있지 않다. 자료에 따르면 Anthropic이 Fable과 Mythos 두 모델에 대한 접근을 미국 내 고객으로 제한한 이후, 인공지능 주권을 둘러싼 논쟁도 여전히 이어지고 있다.

certi.news의 분석: 이번 정상회의의 실제 가치는 새로운 결정이 내려졌다는 데 있지 않고, 인공지능 거버넌스를 논의하는 당사자의 범위가 확대됐다는 데 있다. 이는 안전 고려사항, 지정학적 경쟁, 기술 기업의 이해관계 사이의 분명한 충돌을 반영하며, 핵심 질문은 여전히 열려 있다. 누가 통제의 한계를 정하며, 개발 속도가 기관의 대응 능력을 넘어가기 전에 이를 국제적으로 어떻게 적용할 것인가?

뉴스 출처
TechCrunch Government & Policy
원문 보기 ↗
c
작성자

certi.news Editorial Team

핵심 내용

찰스 국왕은 영국에서 인공지능 기업, 정부 관계자, 안보 및 시민사회 인사들이 모인 비공개 정상회의를 주최해 기술의 위험과 공익을 위해 기술을 이끄는 방안을 논의했다. 정상회의에서는 새로운 정책이나 구속력 있는 합의가 발표되지 않았으며, 개발이 더욱 가속화되기 전에 감독과 국제 협력이 필요하다는 점에 초점을 맞췄다.

  • 회의는 9월 17일 스코틀랜드 에어셔의 Dumfries House에서 열렸다.
  • OpenAI, Anthropic, Nvidia의 대표들과 정부 및 정보기관 관계자들이 정상회의에 참석했다.
  • 찰스 국왕은 인공지능의 이점과 위험, 그중에서도 그가 실존적 위험이라고 표현한 위협에 대해 경고했다.
  • 참석자들에게 인공지능이 인간과 사회, 자연환경을 위해 봉사하도록 해야 한다고 촉구했다.
  • 기사에 따르면 정상회의에서는 구체적인 감독 메커니즘이나 공식 결과, 실행 일정이 나오지 않았다.
  • 이번 회의는 안전 문제를 이유로 첨단 모델 개발을 가속화해야 한다는 입장과 늦춰야 한다는 입장 사이에 존재하는 논쟁을 반영한다.

자주 묻는 질문

정상회의는 언제 어디서 열렸나요?

9월 17일 스코틀랜드 에어셔의 Dumfries House에서 열렸다.

정상회의에서 구속력 있는 규제 합의가 나왔나요?

아니다. 기사에 따르면 새로운 규제 정책이나 구속력 있는 합의를 발표한 자리가 아니었으며, 공식 결과나 구체적인 감독 메커니즘도 제시되지 않았다.

회의에는 어떤 기관과 인사들이 참석했나요?

OpenAI, Anthropic, Nvidia의 대표들과 정부 및 정보기관 관계자, 시민사회 및 종교계 인사들이 참석했다.

참석자들이 논의한 핵심 의제는 무엇이었나요?

인공지능의 위험과 이점, 감독과 국제 협력의 필요성, 그리고 기술을 공익을 향하도록 이끄는 방법을 논의했다.

같은 카테고리

추천 기사

모든 뉴스 보기