모델 개발의 전례 없는 가속화
인공지능 안전 연구 조직 METR이 발표한 보고서에 따르면, Anthropic은 스마트 모델 개발 속도가 크게 가속화되고 있는 것으로 나타났으며, 데이터에 따르면 이 회사는 작년 한 해 동안 역사적 발전의 2년에 해당하는 진전을 이뤘습니다. 11주간 지속된 조사에 따르면, 이러한 가속화는 단순히 컴퓨팅 성능의 증가 때문만이 아니라 인공지능 자체가 개발 과정에 기여했기 때문입니다.
회사 직원들은 최신 내부 모델을 사용함으로써 기술적 지원 없이 작업할 때에 비해 생산성이 12배 증가했다고 밝혔으며, 이는 불과 몇 달 전에 기록된 수치의 두 배에 달합니다. 또한 보고서는 회사가 아직 대중에 공개되지 않은 세 가지 새로운 모델의 훈련을 마쳤으며, 이는 개발 주기의 극도로 빠른 속도를 반영한다고 밝혔습니다.
이 뉴스가 연구원들을 우려시키는 이유는 무엇인가?
위기는 Anthropic의 최고경영자(CEO) 다리오 아모데이(Dario Amodei)가 인공지능 개발 속도를 늦춰야 한다고 촉구한 것과, 회사가 인간의 큰 개입 없이 스스로를 개선할 수 있는 시스템(재귀적 자기 개선)을 향한 경쟁을 주도하고 있음을 시사하는 현실 사이의 모순에 있습니다. 연구원들은 이러한 발전이 현 안전 절차의 대응 능력을 넘어설 수 있으며, 사회를 복잡한 기술적 및 윤리적 과제에 직면하게 할 수 있다고 보고 있습니다.
투명성과 편집상의 제한
이 보고서는 Anthropic이 영업 비밀을 보호하고 경쟁자들이 회사의 기술 로드맵을 악용하는 것을 막는다는 명목으로 METR 조직이 도출한 결과 중 상당 부분을 보류하기로 결정하면서 광범위한 논란을 불러일으켰습니다. 인공지능 안전 분야의 전문가들은 이러한 정보 은폐를 비판하며, 대중과 규제 기관이 실제 위험을 독립적으로 평가하는 것을 가로막는다고 지적했습니다.
반면 Anthropic의 공동 창립자인 샘 매캔들리시(Sam McCandless)는 가속화 동인의 세부 사항을 공개하는 것이 회사가 피하고자 하는 위험을 악화시킬 수 있다고 강조하며 정보 보류 결정을 옹호했습니다. 그럼에도 불구하고, 특히 인공지능 개발에 더 엄격한 규제를 부과하라는 미국의 정치적 압력이 거세지는 가운데, 민간 기업이 적절한 정부 또는 독립적 규제 없이 이 정도 규모의 기술 안정을 관리할 수 있는 역량에 대한 의문은 여전히 남아 있습니다.