OpenAI의 글로벌 정책 책임자인 Chris Lehane은 자사가 Anthropic 및 Google DeepMind와 인공지능 안전에 관해 수주째 논의하고 있다고 확인했다. 이 발언은 화요일 기자들과의 만남에서 나왔으며, Lehane은 인공지능과 관련된 재앙적 위험에 대응하기 위해 미국 의원들과 협력하고자 워싱턴에 머물고 있다.
이번 발표는 세 회사 사이에 공개되지 않은 협력이 있었다는 기존 보도를 확인하는 동시에, 안전에 관한 일반적인 요구를 넘어 논의에 실질적인 차원을 부여한다. 기사에서는 논의의 방식이나 그 결과로 나온 결정에 관한 세부 사항을 밝히지 않았으며, TechCrunch의 논평 요청에 대해 Anthropic, Google 또는 OpenAI가 답변했다는 내용도 출처에 포함되지 않았다.
요구에서 제도적 협력으로
이번 논의는 Anthropic의 CEO인 Dario Amodei가 게재한 글 이후 이루어졌다. 그는 인공지능 업계가 협력해 첨단 인공지능 모델 개발 속도를 늦추고 재앙적 위험을 피해야 한다고 촉구했다. 이 요구는 OpenAI의 Sam Altman, Google의 Demis Hassabis, SpaceXAI의 Elon Musk를 비롯한 주요 인사들의 지지를 받았다.
Altman은 OpenAI가 Anthropic과 함께 독립적인 제3자 평가 기관을 도입해 안전성을 감독하겠다고 밝혔다. 다른 보도에 따르면 세 회사는 업계 표준 기구를 설립하기 위해 협력하고 있으며, Altman은 직원들에게 이 조치가 미국 정부의 지원 없이 진행되어야 할 수도 있다고 말했다.
Hassabis는 지난 7월 미국의 새로운 표준 기구를 설립해 인공지능 감독 기관으로 기능하게 하자고 촉구했다. 이 기구에는 가장 첨단인 모델을 검사하고 위험이 커질 경우 개발을 공동으로 늦추는 조율 권한이 부여될 수 있다.
경쟁 문제에 직면한 조율
가장 큰 인공지능 연구소들 사이의 협력에는 법적 복잡성이 따른다. Altman을 포함한 일부 관계자들은 기업 간 조율이 경쟁을 제한하는 수단으로 간주될 경우 독점금지법과 관련된 위험을 초래할 수 있다고 지적했다. Amodei는 안전 문제에 관한 이러한 유형의 협력을 허용하는 제한적인 정부 면제를 제안했지만, Lehane은 기업들이 그러한 면제를 필요로 하지 않는다고 말했다.
실제로 무엇을 의미하는가?
이번 발전은 각 회사가 자체적으로 모델을 평가하도록 요구하는 단계에서, 독립적인 주체와 업계 표준을 포함하는 공동 협정을 모색하는 단계로의 전환을 의미한다. 이러한 논의가 공식적인 메커니즘으로 발전한다면, 출시하거나 사용을 확대하기 전에 첨단 모델을 시험하는 방식에 영향을 미칠 수 있다. 그러나 출처는 아직 공동 기구나 구속력 있는 합의의 존재를 입증하지 않으며, 평가자의 독립성을 어떻게 보장할지 또는 안전 기준이 경쟁을 제한하는 데 이용되지 않도록 어떻게 방지할지도 설명하지 않는다.
같은 화요일 회의에서 Lehane은 첨단 인공지능 연구소가 ‘독립 검증 기관’이 자사에 들어와 모델이 안전하게 개발되고 있는지 확인할 수 있도록 의무화하는 FRONTIER Act 조항을 OpenAI가 지지한다고 밝혔다.
이러한 방향은 안전 우려를 사기라고 표현하고 더 엄격한 규제가 필요하다는 점을 거부한 Trump 대통령의 입장과 상충한다. 그는 어떠한 개발 지연도 중국에 우위를 안겨줄 수 있다고 보았다. 그의 인공지능 자문인 David Sacks도 인공지능의 실존적 위험에 대한 우려가 과장됐다고 주장했다. 따라서 다음 단계는 기업들이 자발적 협력을 실행 가능한 기준으로 전환할 수 있는지, 그리고 미국 의원들이 이러한 조율의 한계를 어떻게 판단하는지에 달려 있다.