OpenAIのグローバル政策責任者であるChris Lehaneは、同社がAnthropicおよびGoogle DeepMindとAIの安全性について数週間にわたり協議していると明らかにした。この発言は火曜日に記者団との会合で行われた。Lehaneは現在、AIに関連する壊滅的リスクへの対処について米国の議員と協議するため、ワシントンに滞在している。
この発表は、3社の間で非公開の協力が行われているとする以前の報道を裏付けるものであり、安全性をめぐる一般的な呼びかけを超えた、実務的な側面を議論に与えるものである。ただし、記事では協議の仕組みや、そこから得られた決定の詳細は明らかにされていない。また、TechCrunchの問い合わせに対し、Anthropic、Google、OpenAIからのコメントは記事中に記載されていない。
呼びかけから制度的協力へ
この協議は、Anthropicの最高経営責任者（CEO）であるDario Amodeiが記事を発表し、AI業界に対して、高度なAIモデルの開発ペースを減速させ、壊滅的リスクを回避するために協力するよう呼びかけた後に行われた。この呼びかけには、OpenAIのSam Altman、GoogleのDemis Hassabis、SpaceXAIのElon Muskなど、著名な人物が支持を表明した。
Altmanは、OpenAIがAnthropicとともに、第三者の独立した評価機関を導入して安全性を監視すると述べた。また、別の報道によれば、3社は業界標準化機関の設立にも取り組んでいる。Altmanは従業員に対し、この取り組みは米国政府の支援なしに進める必要がある可能性があると述べた。
Hassabisは7月、高度なモデルの一部を検査し、リスクが高まった場合には開発を集団的に減速させる調整を行う権限を持つ、AIの監督機関として機能する新たな米国の標準化機関の設立を求めていた。
調整をめぐる競争上の問題
最大規模のAI研究所間の協力には、法的な複雑さが伴う。Altmanを含む一部の関係者は、企業間の調整が競争を制限する手段とみなされた場合、反トラスト法に関連するリスクを引き起こす可能性があると指摘している。Amodeiは、安全性に関するこの種の協力を認める限定的な政府免除を提案したが、Lehaneは、企業はそのような免除を必要としていないと述べた。
実際には何を意味するのか？
この動きは、各社が自社モデルを内部で評価するよう求める段階から、独立した当事者や業界標準を含む共同の取り決めを模索する段階への移行を示している。これらの協議が正式な仕組みに発展すれば、高度なモデルを公開したり利用範囲を拡大したりする前に、モデルをテストする方法に影響を与える可能性がある。しかし、記事の情報からは、共同機関や拘束力のある合意がすでに存在することは確認できない。また、評価者の独立性をどのように確保するのか、あるいは安全基準が競争を制限するために利用されるのをどう防ぐのかも明らかになっていない。
同じ火曜日の会合で、Lehaneは、先進的なAI研究所に対し、「独立した検証組織」が各社に立ち入り、モデルが安全に開発されていることを確認できるよう義務付けるFRONTIER Actの条項を、OpenAIが支持すると発表した。
この方向性は、Trump大統領の立場と対立している。Trump大統領は安全性への懸念を詐欺だと表現し、より厳格な規制の必要性を否定している。いかなる減速も中国に優位性を与える可能性があると考えているためである。同大統領のAI顧問であるDavid Sacksも、AIの存亡に関わるリスクへの懸念は誇張されていると繰り返し述べた。そのため、次の段階は、企業が自主的な協力を実行可能な基準へと転換できるかどうか、そして米国の議員がこの調整の範囲をどのように捉えるかにかかっている。