저명한 수학자 25명이 공개서한에 서명해, 유명 수학 난제에서 돌파구를 마련하려는 AI 연구소들의 경쟁이 과학 연구의 기반이 되는 개방적 구조를 훼손할 수 있다고 경고했다. 서명자 전원은 수학계 최고 권위의 상 중 하나로 여겨지는 필즈 메달 수상자다.
이 서한은 OpenAI와 여러 학계 연구자 사이의 갈등이 고조되는 시점에 나왔다. 뉴욕대학교(NYU) 교수인 Tristan Buckmaster는 중요한 수학 문제를 해결한 뒤, Anthropic에서 일하는 협력자에게 공로를 돌리지 말라는 압박을 회사가 자신에게 가했다고 비난했다. 또한 OpenAI가 장기간의 추론 과정에서 Codex를 통해 수행된 작업을 사용해 자체 증명을 만들어냈는지 의문을 제기했다. 해당 기사에 따르면 OpenAI의 증명은 아직 문서화되거나 검증되지 않았다.
또 다른 전개로, OpenAI는 연구소 연구자들의 비판 이후 이번 주 캘리포니아 공과대학교(Caltech)에서 열릴 수학 행사의 후원을 철회했다. 출처는 철회 이유나 비판의 성격에 관한 추가 세부사항을 제시하지 않았지만, 이 조치를 연구소와 대학 사이의 긴장이 커지는 맥락에 놓았다.
문제는 문제를 푸는 것만이 아니다
이 서한은 모델이 미해결 수학 문제를 해결하는 능력이 인류에 유용할 수 있다는 점을 인정하면서도, 이러한 유용성은 수학 공동체가 해법을 이해하고 설명하며 기존 지식에 통합할 수 있는 능력과 연결된다고 말한다. 서명자들은 결과를 신속하게 발표하면 검토 가능한 수학적 서술을 준비하고, 새로운 방법과 아이디어를 분리해내며, 선행 연구를 언급할 시간이 충분하지 않을 수 있다고 경고한다.
서한에 따르면 이는 특히 다른 연구자들이 결과를 검증하거나 선행 연구와의 연관성을 규명하기 전에 AI의 도움으로 생성된 결과가 제시될 때, 공로의 귀속과 표절 가능성에 관한 첨예한 문제를 제기한다. 또한 서한은 수학이 증명만으로 이루어지는 것이 아니라고 강조한다. 수학에는 학생을 가르치고, 새로운 질문을 제기하며, 아이디어를 발전시키고, 세대 간에 전달하는 더 광범위한 과정이 포함된다.
이 소식이 중요한 이유
이 갈등이 부각하는 실질적인 문제는 인센티브의 불균형이다. 모델 운영에 수천만 달러를 지출할 수 있는 AI 연구소는 어떤 문제를 먼저 연구하기 시작한 연구자들보다 앞서 해당 문제에서 유용한 경로에 도달할 수 있다. 공로 귀속, 문서화, 도구의 상호 이용에 관한 규칙이 명확하지 않다면, 연구자들은 자신의 작업이 후속 모델에 입력되거나 다른 기관의 성과로 귀속될 것을 우려해 작업 공유를 줄이거나 AI 도구 사용을 피할 수 있다.
이 서한은 수학자들로 구성된 한 그룹이 6월에 발표한 ‘레이던 선언’ 이후에 나왔다. 레이던 선언 역시 대규모 언어 모델의 증명이 수학계에 미치는 영향을 다루고 수학자, 기관, 정책 입안자를 위한 권고안을 제시했다. 이는 논의가 더 이상 단일 사건에 관한 것이 아니라, 투명성·검토·공로 귀속에 관한 기준을 조기에 마련하려는 시도임을 보여준다.
모델의 도움으로 생성된 증명에 사용된 아이디어의 출처를 어떻게 입증할지, 누가 그 검증 책임을 질지, 새로운 도구의 활용을 막지 않으면서 개방형 연구 문화를 어떻게 보호할지 등 핵심적인 질문은 여전히 열려 있다. 이 사이트는 이러한 질문이 수학에만 해당하지 않는다고 본다. AI 시스템의 속도와 문서화 가능한 창의적 작업의 요구 사이의 긴장은 다른 과학 및 전문 분야에서도 같은 방식으로 나타날 수 있다.