마이크로소프트의 창립자 빌 게이츠는 인공지능의 급속한 발전이 적절한 감독 및 규제 규칙을 동반하지 않을 경우 기술을 광범위한 혼란과 불평등의 원천으로 바꿀 수 있다고 경고했다. 그의 입장은 자신의 웹사이트에 게재한 글과 최근 뉴욕 타임스와의 인터뷰에서 나왔다. 그는 인터뷰에서 인공지능의 가능성에 대한 초기의 낙관론에서, 사회와 인프라의 대비 수준에 비해 발전 속도가 빠르다는 우려로 입장이 바뀌었다고 말했다.
게이츠의 우려는 앤트로픽의 Claude Code와 같은 프로그래밍 도구를 포함한 인공지능 도구의 가속화된 발전과, 일부 능력에서 인간을 능가하게 된 대화형 모델에 근거한다. 그의 판단에 따르면 이러한 모델의 영향은 특정 업무의 자동화에 국한되지 않고 사무직과 육체노동 모두로 확대될 수 있으며, 이로 인해 일자리를 잃은 노동자들이 다른 부문으로 이동하는 일이 더욱 어려워질 수 있다.
일자리 상실에서 위험한 사용의 위험까지
게이츠는 인공지능 기술의 잠재적 위험에 대해 일부 인공지능 기업 경영진이 침묵한다고 지적한다. 기사에 따르면 이러한 위험에는 대규모 일자리 상실뿐 아니라 인공지능이 생물학적 무기 생산에 사용될 가능성도 포함된다. 게이츠는 더 발전된 모델을 개발하기 위한 경쟁 속에서 일부 기업이 투자나 높은 기업가치 평가에 미칠 영향을 우려해 이러한 문제를 공개적으로 언급하지 않을 수 있다고 본다.
이러한 입장들이 해당 시나리오가 실현될 것이라는 점을 입증하는 것은 아니지만, 논의의 범위가 생산성 향상에서 자동화의 영향을 어떻게 분배할지와 첨단 시스템의 허용 가능한 사용 범위로 확대되고 있음을 보여준다. 또한 모델 개발 기업에는 기술적 성능을 넘어서는 질문을 던진다. 자신들이 출시하는 기술의 사회적·안보적 결과를 어떻게 관리할 것인가?
게이츠가 실제로 제안하는 것은 무엇인가?
게이츠는 인공지능 모델을 구동하는 데 사용되는 기본 컴퓨팅 단위에 세금을 부과할 것을 제안한다. 기사에서는 이를 «토큰»이라고 부른다. 또한 작업장에서 사용되는 로봇에도 세금을 부과하자고 제안한다. 그의 설명에 따르면 이 제안의 목적은 직원을 자동화 시스템으로 대체하는 비용을 높이고, 이후 그 수입을 피해를 입은 노동자의 재교육과 새로운 일자리를 위한 역량 강화에 사용하는 것이다.
그는 또한 인공지능 시스템이 깊은 인간적 상호작용을 필요로 하는 일부 업무를 맡지 않는 «인간 전용» 영역을 만들자고 주장한다. 그가 언급한 예로는 정신건강 전문가, 돌봄 제공자, 민감한 의료 진단을 환자에게 알리는 의사가 있다.
국제적 차원에서 게이츠는 국경을 초월하는 위험, 특히 인공지능이 생물학적 무기 개발에 활용될 가능성에 대응하기 위한 전문 감독기구를 설립하자고 제안한다. 이는 원자력과 항공 같은 분야에 존재하는 국제기구 및 협약과 유사한 형태다.
이 논의가 중요한 이유는 무엇인가?
게이츠의 제안이 지니는 실질적 가치는 완성된 규제 계획이라는 데 있지 않고, 대체로 별도로 논의되는 세 가지 경로를 연결한다는 데 있다. 즉 일자리에 미치는 자동화의 영향, 개발 기업의 책임, 한 국가의 국경에서 멈추지 않는 위협이다. 이러한 아이디어가 정책으로 전환된다면 모델 기업, 인공지능 도구 사용자, 그리고 자동화가 가능한 인지적 또는 운영적 업무에 일자리를 의존하는 노동자에게 영향을 미칠 것이다.
그럼에도 제안의 실효성은 여전히 논쟁의 대상이다. 컴퓨터과학 교수 오렌 에치오니는 ABC 뉴스에 인공지능 단위에 세금을 부과하는 것이 타자기의 자판 입력에 세금을 부과하는 것과 비슷할 수 있다고 말했다. 그는 미국 내에서 세금을 부과하면 기업들이 외국 모델을 사용하게 되어 해외 경쟁자에게 경쟁 우위를 줄 수 있다고 경고했다. 또한 일부 전문가들은 새로운 관료기구를 만드는 것보다 기존 정부 기관을 통해 정책을 개발하는 편이 더 현실적일 수 있다고 본다.
편집자 해설: 실제로 달라진 점은 논의가 인공지능의 능력에 관한 질문에서 그 비용과 위험을 어떻게 분배할지에 관한 질문으로 이동했다는 것이다. 아직 답이 나오지 않은 질문은 «인공지능 세금»을 어떻게 정의할지, 그 영향을 어떻게 측정할지, 사용이 외부 기관으로 이전되는 것을 어떻게 막을지, 인간의 보호를 받을 가치가 있는 직업을 어떻게 정할지와 관련된다. 이 글은 이러한 입장과 반론을 제시하지만, 제안의 실행을 위한 상세한 모델이나 그 결과를 확정할 증거를 제공하지는 않는다.