Y Combinator의 CEO Garry Tan은 미국이 소규모 AI 연구소들이 미국의 첨단 모델에서 지식을 증류할 수 있도록 허용해야 할 수도 있다고 본다. 목표는 중국 연구소에 의존하지 않는 더 강력한 오픈 웨이트 모델군을 구축하는 것이다. 이러한 입장은 Anthropic이 중국 연구소들이 첨단 모델을 대상으로 불법적인 증류 공격을 수행했다고 비난하는 시점에 나왔다.
Tan은 CNBC와의 인터뷰에서 중국 연구소의 증류 기술 사용에 규제상 개입하지 않겠다며, 대신 ‘미국식 증류 시스템’을 구축할 가능성을 제시했다. 그는 TechCrunch에 그 의미가 오픈 웨이트 모델을 개발하는 미국 연구소들이 이러한 기술을 사용할 수 있도록 하는 것이라고 설명했다. 다만 해당 연구소들은 대상 모델에 ‘정문으로’ 들어가 명확한 접근 조건을 따라야 하며, 신원 사칭이나 사기, 인증 정보 도용을 통해 접근해서는 안 된다.
모델 증류란 무엇인가?
모델 증류는 한 모델의 출력을 활용해 새로운 모델을 훈련하는 방식으로, 대개 다른 모델에 대량의 요청을 보내고 그 답변과 추론 방식을 분석하는 과정을 거친다. AI 연구소들은 일부 훈련 및 모델 개선 시나리오에서 이 기술을 합법적으로 사용한다. 그러나 허가 없이 대상 모델에 접근하거나 이용 주체의 신원을 숨기면 사용 범위를 둘러싼 논쟁이 발생한다.
기사에 따르면 Anthropic은 이번 주 두 번째 보고서를 발표하며 중국 연구소들이 ‘불법적인 증류 공격’을 수행했다고 비난했다. 회사는 이러한 작전이 신원 은폐와 사기, 도난당한 인증 정보를 통한 모델 접근을 포함했다고 말한다. Anthropic의 CEO Dario Amodei는 앞서 미국 규제 당국에 이러한 유형의 증류에 대해 더 엄격한 조치를 취할 것을 공개적으로 촉구했다.
Tan은 왜 다른 입장을 제시하는가?
Tan의 주장은 미국과 중국 간 경쟁에만 국한되지 않는다. 그는 AI 연구소들이 사용자가 API를 통해 얻은 정보를 어떻게 활용할지 광범위하게 통제할 권한을 가져서는 안 된다고 본다. 그의 관점에서는 폐쇄형 모델의 출력물 사용에 강한 제한을 부과하면 연구자와 개발자가 오픈 대안을 구축할 역량이 제한될 수 있다.
Tan은 이러한 입장을 상용 모델 자체의 훈련 역사와도 연결한다. 그는 폐쇄형 모델 연구소들이 시스템을 훈련하기 위해 광범위하게 이용 가능한 방대한 인간 지식을 수집했으며, 여기에는 저작권으로 보호되는 자료도 포함되고 지식재산권 보유자의 허가를 항상 받은 것은 아니라고 지적한다. 따라서 그는 광범위한 공개 데이터로 훈련된 지능에 대한 접근이 민간 기업이 정한 서비스 약관에 전적으로 좌우되기보다는 공공의 이익에 더 가까워야 한다고 주장한다.
실제로 무엇이 달라지는가?
이러한 구상이 정책으로 전환된다면 논쟁의 초점은 어떤 종류의 모델 복제를 허용할지보다 접근 조건, 사용 한도, 대상 모델의 동의 입증에 맞춰질 것이다. Tan이 허가된 증류와 인증 정보 도용에 기반한 증류를 구분하는 것은 중요하다. 그는 Anthropic이 중국 연구소들에 대해 제기한 작전을 옹호하는 것이 아니라, 더 작은 미국 연구소들이 첨단 모델의 출력물을 합법적으로 사용할 기회를 부여하자고 주장하는 것이다.
오픈 웨이트 모델 개발자들에게 이러한 접근 방식은 처음부터 Frontier 모델을 개발하는 데 필요한 자본과 연구자, 인프라를 보유한 연구소들과의 자원 격차를 줄일 수 있다. 반면 첨단 상용 연구소들은 이를 자사 폐쇄형 모델의 가치와 인터페이스 및 출력물 사용을 통제할 능력에 대한 위협으로 받아들일 수 있다.
의견과 사실
Tan은 자신의 입장을 AI 시장의 다원성을 유지하기 위한 수단으로 제시한다. 그는 자본과 최고의 연구자에 대한 접근성이 가장 뛰어난 한 기업이 가장 강력한 모델과 첨단 역량으로 향하는 유일한 관문을 차지하는 시나리오를 경고한다. 그는 오픈 웨이트 모델이 사용자에게 더 큰 자유와 폭넓은 접근성을 제공하는 한편, 첨단 연구소들은 새로운 역량 개발에 대한 투자를 계속 보장한다고 본다.
그러나 이 기사는 이러한 유형의 ‘증류 시스템’에 대한 미국의 규제 합의가 존재한다는 증거를 제시하지 않으며, 지식재산권 문제나 계약 조건, 허가된 사용을 검증하는 방법도 확정하지 않는다. 따라서 Tan의 제안은 시행 중인 정책의 발표가 아니라, 경제 안보와 기업의 권리, 연구자들의 이해관계, 모델 오용 위험이 얽힌 논의에서 제시된 정치적·사상적 입장으로 남아 있다.