GoogleとGoogle DeepMindは2026年9月17日、「DeepMind Institute」を設立した。目的は、汎用人工知能（AGI）をめぐる議論を広げ、Google、Google DeepMind、そして世界各地の研究者の見解の違いを明らかにすることだ。同研究所は、DeepMindの共同創業者であるShane Legg、Googleの幹部であるJames Manyika、Google DeepMindの責任者であるDemis Hassabisが率い、Leggは編集責任者も務める。
同研究所は、必ずしも一致しない可能性があり、急速に発展する分野で新たなデータや情報が現れるにつれて変化し得る見解を提示する場を自ら位置づけている。この動きは、人工知能の安全性をめぐる議論が一般的な声明から、情報開示、外部監査、適切な安全対策が伴わない場合の高度なモデル開発の減速など、より具体的な提案へと移行している時期に起きた。
議論の4つの視点
同研究所の開始時のコレクションには、汎用人工知能が引き起こす可能性のある経済的混乱への対応政策、モデルの推論を人間が理解可能な状態に保つこと、人間の繁栄を支援する原則、そして最先端の人工知能モデルを評価する枠組みを扱う4本の記事が含まれている。
そのうちの1本で、DeepMindの安全性研究者であるRohin ShahとAnca Draganは、研究者がモデルの推論手順を確認し検証する能力が縮小することは必然ではないと警告している。より強力なモデルほど監視が難しくなるアーキテクチャーが発展する中、両研究者は開発者と規制当局に対し、安全性に関するトレードオフに直接向き合うよう求めている。
両氏が示す選択肢の中には、「不透明な逐次深度（opaque serial depth）」を制限することがある。これは、モデルが読み取り可能な推論経路を生成せずに実行できる逐次計算の量を指す。あるいは、透明性の低いシステムであっても同じ水準で監視可能であることを開発者に証明させる案も示されている。
モデル評価のための米国の枠組み
別の記事でHassabisは、最も高度なモデルを評価する、米国が主導する先進人工知能標準機関の設立を提案している。示された構想によれば、開発者は公開前の最長30日間、自発的にモデルを審査に提出する。その後、評価制度が有効であることが示された場合、米国内で最先端モデルを公開する条件として、試験への合格を義務化する。
同機関は当初、人工知能企業と協議しながら評価試験を設計し、その後、事前に公表されない独立した試験、すなわち枠組みが「保留試験（held-out tests）」と呼ぶ試験へ移行する。これは、研究所があらかじめ知られている試験に合わせてモデルを改善することを防ぐためだ。また、この提案では、状況の深刻さが必要とする場合、最終的に高度なモデルの開発者間で協調的な減速に至るまで、措置を段階的に強化する可能性にも言及している。
なぜこのニュースが重要なのか？
この取り組みの実務的な重要性は、新たな出版プラットフォームを設立することだけにあるのではなく、モデルの開発方法や評価方法に影響を及ぼし得る問題をめぐるGoogleとGoogle DeepMindの議論を集約する点にある。記事は、透明性、監視可能性、独立監査を、単なる一般原則ではなく、運用上の問いとして位置づけている。
ただし、同研究所は独立した規制機関ではなく、評価に関する提案された枠組みも当初は自主的なもので、施行される政策にはなっていない。機関の独立性、非公開試験の性質、開発を減速させる必要性を判断する基準などの問題は、記事に記載された範囲では未解決のままである。