Anthropic의 최고경영자 다리오 아모데이는 인공지능에 대한 부정적인 시각은 본질적으로 대중과 기업, 정부, 기술 업계 사이의 신뢰의 위기를 반영하는 것이며, 업계 지도자들이 전하는 경고 메시지의 직접적인 결과가 아니라고 말했다. 그의 발언은 투자자 개빈 베이커가 아모데이의 인공지능 위험 경고가 미국 내, 특히 데이터센터에 대한 부정적인 반발을 부추기는 데 기여했다고 본 데 대한 답변으로 나왔다.
베이커는 All-In 프로그램과 X에서 Anthropic이 캘리포니아의 대형 인공지능 기업에 투명성 요건을 부과하는 법안을 비롯해 일부 형태의 규제를 지지하는 입장을 비판했다. 그는 세계에서 가장 중요한 기업 중 하나가 될 가능성이 있는 회사를 이끄는 아모데이가 업계에 대해 더 긍정적인 모습을 제시해야 한다고 말하며, 아모데이가 인공지능 규제와 관련된 논쟁에서 패했다고 주장했다.
아모데이, 회의감에 대한 책임을 경고에 돌리는 것을 거부
아모데이는 자신의 메시지가 불균형적으로 부정적이지 않았다며, 인공지능의 위험과 혜택을 거의 같은 비중으로 다뤘다고 말했다. 또한 그는 업계가 기술이 세상을 더 나은 방향으로 바꿀 수 있는 능력에 대해 충분히 고무적인 모습을 제시하지 못하고 있다고 보았기 때문에 「Machines of Loving Grace」라는 글을 썼다고 덧붙였다.
인공지능에 대한 전반적인 시각이 부정적이며 이것이 큰 문제라는 점은 인정했지만, 아모데이는 이러한 부정성의 주된 원인이 업계 지도자들의 경고라고 말하는 데에는 반대했다. 그의 설명에 따르면 일반 대중은 기업이나 정부, 기술 업계를 신뢰하지 않으며, 이들 기관이 자신들에게 해를 끼치는 새로운 방법을 개발할 수 있다고 생각하는 경향이 있다. 아모데이는 인공지능에 대한 반발이 수십 년에 걸쳐 형성된 신뢰의 위기가 가장 최근에 나타난 양상이라고 본다.
아모데이가 보는 더 정확한 비판은 무엇인가?
아모데이는 Anthropic을 포함한 인공지능 기업에 대한 더 정확한 비판은 아직 세계에 이익을 주겠다는 거대한 약속을 실현하지 못했다는 것이라고 말했다. 그는 책임이 기업들 자신에게 있으며, 인공지능이 암을 치료할 것이라는 말과 같은 대중적 약속은 영감을 주기보다는 진부한 문구에 가까워졌다고 덧붙였다. 그의 견해로는 사람들의 태도를 바꿀 수 있는 것은 마케팅이나 언론 메시지의 개선이 아니라 가시적인 성과를 내는 것이다.
위험 제한과 권력 집중 사이의 규제
아모데이는 규제 논의를 인공지능을 아무런 제한 없이 배포하는 것과, 정부 규칙 때문에 기술을 소수 기업에만 한정하는 것 사이의 양자택일로 묘사하는 것 역시 거부했다. 그는 규제를 규제 포획 및 권력 집중과 동일시하는 실리콘밸리의 일반적인 생각이 현실을 지나치게 단순화한다고 말했다. 이 범위 밖의 많은 사람들은 규제가 기업의 영향력을 제한하고 개인을 보호한다고 보기 때문이다.
그는 Anthropic이 인공지능 선도 기업의 속도를 늦추는 동시에 소규모 기업에 상대적인 우위를 제공하는 것을 목표로 정책 제안을 신중하게 작성하고 있다고 설명했다. 아모데이는 인공지능이 구조적으로 권력을 집중시키는 경향이 있는 기술이라고 보며, 오픈 웨이트 모델은 이를 부분적으로만 해결한다고 말했다. 오픈 웨이트 모델은 집중의 일부를 가장 큰 컴퓨팅 능력과 반도체를 보유한 주체로 이동시키기 때문이다.
아모데이에 따르면 적절한 「도로 규칙」은 사이버보안, 생물학, 정렬과 관련된 위험을 다루고 인공지능 선도 기업의 힘을 제도적으로 제한하면서도, 오픈 웨이트 모델을 위한 공간을 열어 두고 그에 특유한 위험에 대응할 수 있다. 이 주장은 논쟁의 핵심이 더 낙관적이거나 비관적인 표현을 선택하는 데만 있는 것이 아니라, 신뢰를 구축하고 실질적인 혜택을 실현하는 방식에 있음을 보여준다.