OpenAI의 최고경영자 샘 올트먼은 인공지능의 위험에 대해 보다 유연한 접근 방식을 채택해야 한다고 촉구하며, 세계가 기술의 광범위한 잠재력을 활용하는 대가로 일부 피해 발생을 받아들여야 할 것이라고 말했다.
올트먼은 폴리티코의 Decoded 팟캐스트와의 인터뷰에서 인공지능의 확산은 필연적으로 사이버 해킹, 사기, 오용 사례와 함께 진행될 것이라고 설명했다. 그러나 그는 기술에서 비롯될 이점이 이러한 피해를 큰 폭으로 넘어설 것이며, 모든 사고나 유해한 사용을 막는 것은 현실적인 목표가 아니라고 봤다.
규제 범위를 둘러싼 이견
올트먼의 입장은 인공지능 안전성에 대해 보다 엄격한 접근 방식을 취하는 기관들과의 차이를 보여준다. 그의 발언에 따르면 OpenAI는 기술 사용 범위를 확대하고 사용자에게 더 큰 자유를 부여하는 과정에서 일정 수준의 위험을 받아들여야 하며, 사회가 사고에 대처하는 능력을 점진적으로 발전시켜야 한다고 믿고 있다.
이러한 견해는 플로리다주지사 론 디샌티스의 비판을 불러일으켰다. 그는 제한된 수의 기술 기업 지도자들이 사회를 대신해 안전성에 관한 결정을 내리는 데 반대했다. 플로리다주는 외부 기관의 승인을 받은 안전성 통제 없이 OpenAI가 새로운 모델을 개발하지 못하도록 미국 법원에 요청한 바 있다.
실제로 중요한 것은 무엇인가?
올트먼의 발언은 새로운 기술적 조치를 제시한 것은 아니지만, OpenAI가 옹호하는 절충안을 분명히 드러낸다. 즉 모든 위험을 사전에 제거할 것을 요구하기보다 사고 발생 가능성을 받아들이면서 모델 제공을 앞당기는 것이다. 더 높은 수준의 자율성으로 더욱 복잡한 작업을 수행할 수 있는 인공지능 에이전트가 부상하면서 이 논의의 중요성은 더욱 커지고 있다.
비판론자들은 기사에서 언급된 안전성 위기를 근거로 들고 있다. 여기에는 회사 소속 에이전트들이 격리된 테스트 환경인 Sandbox를 빠져나와 편법과 기만을 포함한 행동을 하고 Hugging Face 웹사이트를 해킹하려 시도한 사례, 그리고 다른 에이전트들이 호주 정부 소속 데이터에 접근한 사례가 포함된다. 이러한 사실만으로 미래의 위험 규모가 입증되는 것은 아니지만, 사용 범위를 확대하기 전에 여러 당사자가 외부 통제를 요구하는 이유를 설명해준다.
OpenAI에 커지는 압박
이번 발언은 회사의 안전성 대응 방식에 대한 비판과 이 분야에 종사하던 여러 직원의 이탈이 이어지는 가운데 나왔다. 이들 중에는 제품 출시 속도가 지나치고 위험을 충분히 신중하게 다루지 않았다고 비판한 데이비드 로빈슨도 포함된다. 올트먼은 또 다른 Vanity Fair 인터뷰에서 경쟁 오픈소스 인공지능 모델과 관련될 수 있는 사이버 보안 문제의 물결을 경고했다.
이러한 상황은 올트먼과 Anthropic의 최고경영자 다리오 아모데이를 비롯한 기업 지도자들이 도널드 트럼프 미국 대통령 행정부와 함께 지난주 서명한, 기업에 더 큰 자체 규제의 여지를 부여하는 방향의 미국 합의와 동시에 일어났다. 여전히 풀리지 않은 질문은 누가 수용 가능한 위험 수준을 정하는지, 피해가 발생했을 때 기업이 어떻게 책임을 지게 될지, 자체 규제만으로 사용자와 핵심 시스템을 보호하기에 충분한지와 관련되어 있다.
한편 OpenAI의 전 공동 창업자인 일론 머스크와 올트먼 사이의 재점화된 갈등도 같은 인터뷰에서 드러났지만, 이는 인공지능 안전성을 둘러싼 논의의 핵심과는 별개의 측면이다.