数学界の著名な科学者25人が、AI研究所による著名な数学問題の突破を目指す競争が、科学研究を支える開かれた構造を損なう可能性があると警告する公開書簡に署名した。署名者は全員、数学界で最も栄誉ある賞の一つであるフィールズ賞を受賞している。
この書簡は、OpenAIと複数の学術研究者の対立が激化する中で発表された。ニューヨーク大学（NYU）教授のTristan Buckmasterは、重要な数学問題が解決された後、Anthropicに勤務する共同研究者への功績の帰属を認めないよう同社から圧力を受けたと非難した。また、OpenAIが長期にわたる推論期間中、Codexを通じて達成された成果を利用し、自らの証明を作成したのかどうかについても疑問を呈した。記事によれば、OpenAIの証明は依然として文書化も検証もされていない。
別の動きとして、OpenAIは今週、カリフォルニア工科大学（Caltech）での数学イベントへの後援を取りやめた。同研究所の研究者らが批判したことを受けたものだ。情報源は、撤退の理由や批判の内容についてさらなる詳細を示していないが、この措置を研究所と大学の間で高まる緊張の文脈に位置づけている。
問題は問題を解くことだけではない
書簡は、モデルが未解決の数学問題を解く能力は人類にとって有益になり得ると認めている。しかし、その有益性は、数学界が解答を理解し、説明し、既存の知識に組み込めるかどうかにかかっていると指摘する。署名者らは、結果を迅速に発表すると、検証可能な数学的説明を準備し、新しい手法やアイデアを切り分け、先行研究を参照するための時間が不十分になるおそれがあると警告している。
書簡によれば、これは功績の帰属と盗用の可能性をめぐる深刻な問題を提起する。特に、他の研究者が結果を検証したり、先行研究との関係を特定したりする前に、AIの支援で生成された成果が提示される場合がそうだ。また書簡は、数学は証明だけで構成されているのではないと強調する。数学には、学生の教育、新たな問いの提起、アイデアの発展、世代間での伝達を含む、より広範な過程がある。
なぜこのニュースが重要なのか？
この対立が浮き彫りにする実際的な問題は、インセンティブの不均衡だ。モデルの稼働に数千万ドルを支出できるAI研究所は、研究者が取り組み始めた問題について、その研究者より先に有益な道筋に到達できる可能性がある。帰属、文書化、ツールの相互利用に関するルールが明確でなければ、研究者は、自分たちの成果が後続のモデルに取り込まれたり、別の組織の功績とされたりすることを恐れ、成果の共有を減らしたり、AIツールの利用を避けたりする可能性がある。
この書簡は、6月に数学者のグループが発表した「ライデン声明」に続くものだ。同声明もまた、言語モデルによる証明が専門分野に与える影響を扱い、数学者、機関、政策立案者に向けた提言を示した。これは、議論が単独の出来事に関するものではなく、透明性、検証、功績の帰属に関する基準を早期に定めようとする試みであることを示している。
モデルの支援で生成された証明に使われたアイデアの出所をどのように証明するのか、誰がその検証責任を負うのか、新しいツールの恩恵を妨げることなく開かれた研究文化をどのように守るのかなど、基本的な問いは依然として未解決だ。サイトは、これらの問いは数学だけに関係するものではないとみている。AIシステムの速度と、文書化可能な創造的作業に求められる要件との緊張は、他の科学分野や専門分野でも同じように現れる可能性がある。