전 구글 엔지니어이자 기계지능연구소(MIRI) 소장인 네이트 소아레스가 인공지능의 실존적 위험에 대한 발언으로 기술 업계에 큰 파장을 일으켰습니다. The Atlantic의 CEO인 니콜라스 톰슨이 진행하는 팟캐스트에 출연한 소아레스는 은퇴 저축을 완전히 중단했다고 밝혔으며, 이 기술의 통제되지 않는 급격한 발전으로 인해 10년 후 인류가 존재하지 않을 확률이 50%에 달한다는 확신을 드러냈습니다.
이 입장이 의미하는 바는 무엇인가?
소아레스는 구글 재직 시절 마련한 은퇴 자금은 여전히 보유하고 있지만, 약 10년 전부터는 추가적인 저축을 하지 않고 있다고 설명했습니다. 이러한 입장은 AI 개발 속도가 인류의 통제 능력이나 안전 보장 범위를 넘어섰으며, 이로 인해 인류의 미래가 위태롭다고 보는 일부 전문가들의 깊은 비관론을 반영합니다.
개발 속도를 둘러싼 논란의 배경
소아레스의 발언은 AI 분야가 혁신 속도를 두고 극명하게 갈라진 시점에 나왔습니다. Anthropic의 CEO 다리오 아모데이가 모델의 안전성을 보장하기 위해 보다 균형 잡히고 협력적인 접근 방식을 취할 것을 촉구했으나, 이러한 주장은 다른 측의 반대에 직면했습니다. 일부 기업 리더와 정치인들은 개발을 '늦추려는' 어떠한 시도라도 기술 시장의 독점을 강화하거나 중국과 같은 국가에 전략적 경쟁 우위를 제공할 수 있다고 우려합니다.
미국의 정치적 입장
공식적인 차원에서 미국의 도널드 트럼프 행정부는 개발 속도를 저해할 수 있는 규제 도입보다는 혁신 촉진에 초점을 맞춘 접근 방식을 취하고 있습니다. 트럼프는 과거 AI가 통제를 벗어날 것이라는 우려를 '병적인 음모'라고 묘사하며, 이 분야의 개발 속도를 늦추는 것은 국제적 경쟁자들에게 이익이 될 뿐이라고 강조했습니다. 이는 현재 기술적 방향성이 지정학적 및 경제적 갈등의 중심에 있음을 보여줍니다.