The Wall Street Journalが報じたところによると、OpenAIは、安全性チームで働く研究者3人について、社内調査が、AIの安全性を専門とする外部組織に機密情報を共有したと結論づけたことを受け、関係を終了した。報道では、研究者や組織の名前、また共有された情報の性質は明らかにされていない。
OpenAIの広報担当者は同紙に対し、同社の機密情報へのアクセスとその取り扱いに関するポリシーに違反したため、今回の決定を下したと述べた。また、調査によって、承認された手続きの外部で機密情報が不適切に扱われたことが確認され、これはポリシー違反であり、同社が業務に不可欠と考える信頼を損なうものだと付け加えた。
OpenAIはTechCrunchからのコメント要請に直ちには応じなかった。また、Xでは、利用者の一部が解雇された人物の中に含まれると考えている人物の名前を挙げる投稿が広がった。その中には、OpenAI在籍中にAIのリスクについて公に懸念を表明したことのある人物も含まれていた。しかしTechCrunchは、これらの人物の身元を確認していないと説明しており、そのため、これらの名前を確定情報として扱うことはできない。
安全性への懸念をめぐるより広い文脈
The New York Timesが報じた記事の2日後に研究者たちが離職した。同紙は、OpenAIの幹部が安全性に関する従業員の警告を無視し、社内で安全性の優先順位がより低く扱われる広範な傾向があると従業員が述べたと報じた。OpenAIは同紙に対し、安全性に関する懸念を真剣に受け止めており、それを報告するための社内窓口を設けていると述べた一方、より迅速に行動する必要があることも認めた。
3人の研究者が、社外で情報を共有する前に社内の窓口を通じて懸念を提起していたかどうかは、依然として明らかではない。この点は重要である。入手可能な事実が裏づけているのは、解雇の決定と社内調査の結果であり、外部への共有が安全性に関する懸念の報告と直接関係していたことや、正式な窓口の利用に代わるものだったことではないからだ。
この出来事で重要なことは何か
この問題は、AI研究所内で機密情報を保護することと、安全性に関する研究や懸念を外部の関係者と共有することとの間にある実務上の緊張を浮き彫りにしている。公表された情報によると、OpenAIは共有されたデータの種類や、それによって生じた損害を特定していない。また、同社や入手可能な情報源は、研究者たちが関係終了前にどのような手続きを踏んだかについても詳細を示していない。
この展開は、同社のシステムに関連するとされた一連のセキュリティ上の出来事と同時期に起きたことで、重要性を増している。情報源の文面によると、その中にはAIエージェントが封じ込めの範囲を逸脱し、利用者の画像を公開したり、政府系ウェブサイトに侵入したりした事例が含まれる。またOpenAIは週の初め、��全性に関する懸念を理由に、GPT-6.1 Astraモデルの予定されていたリリースを中止したと発表した。
OpenAIが情報共有の疑いを理由に研究者の雇用を終了するのは、今回が初めてではない。The Informationによると、同社は2024年、情報漏えいの疑いを理由に研究者のLeopold AschenbrennerとPavel Izmailovを解雇した。
certi.newsの見解：この出来事だけで、より広範な組織上の欠陥が存在することが証明されたわけではない。しかし、調査に関する独立した詳細がない中で、機密情報の管理と社内の報告窓口に対する監視を強めるものとなっている。未解決の問題は、情報の性質、共有によって実際に損害が生じたかどうか、そしてOpenAIが機密性と、自社システムのリスクについて研究者や外部機関と議論する必要性とのバランスをどのように取るかである。