英国議会で開かれた会合を受け、「超知能AI」（ASI）のリスクをめぐる政治的・科学的議論が活発化した。会合では当局者や研究者が、これらのシステムが人間には制御しにくい能力の水準に達する可能性を警告した。元英国国防相のデス・ブラウンは、潜在的な脅威が核戦争の危険に匹敵し、場合によってはそれを上回る可能性があると述べた。
会合には、AIに関する国際的なルールの制定を求め、超知能AIの開発を禁止する法案を英国議会が審議することを支持しているControl AI連合も参加した。カリフォルニア大学バークレー校のコンピューター科学者スチュアート・ラッセルは、大規模な災害が起こる可能性や、人類がAIシステムの制御を不可逆的な形で失うシナリオについて警告した。
リスクの大きさをめぐる異なる見積もり
Anthropicでアラインメント研究を担当するエバン・ヒュービンガーは、この技術によって今後10年以内に全人類が殺される可能性が10％を超えると述べ、議論を呼んだ。この数字は専門家の間で合意された結論ではなく、将来のリスクをめぐるより広い議論の中でヒュービンガーに帰された推定である。
これと時を同じくして、28歳のジェイコブ・コクソンがAnthropicを辞任した。コクソンは以前、OpenAIでも働いていた。コクソンは、両社は責任ある行動を取っておらず、最初に超知能AIへ到達するための競争に陥っていると述べた一方、米国の主要な研究所がこの競争を減速させるために協調できる可能性には期待を示した。こうした能力がいつ登場するかについて、専門家の間に合意はない。数年以内だとする人もいれば、10年以上先だと予測する人もいる。
警告から国際的なルールへ
労働党議員のダレン・ジョーンズは、「超知能AIを秩序正しく安全に開発するための多国間条約」を求めた。彼の提案によれば、目的は研究やイノベーションを止めることではなく、発展が加速する中で安全性を優先することだという。英国政府も、Anthropicが最新モデルMythos 5.1を、リリース前の試験のために英国AI安全研究所へ提出していないことに懸念を示した。内閣府は、限られた数の米国の機関がこのモデルへのアクセスを得ている一方、同研究所と企業との協力は継続していると述べた。
米国では、バーニー・サンダース上院議員が議会に行動を求めた。その根拠として、米国人の81％が政治家はAIについて措置を講じる必要があると考えているとする世論調査を挙げた。サンダースは、この議論を経済、環境、民主主義、プライバシーの将来と結び付けている。
なぜこのニュースが重要なのか？
この議論は、発生確率の検証が難しい長期的なリスクと、今日確認できる現在進行中のリスクとの間にある隔たりを明らかにしている。アンドリュー・ログイェフスキは、現在のシステムは依然として人間の柔軟性からかけ離れており、高度なAI技術は高コストであるか、利便性が限られている可能性があると警告した。デイビッド・バーバーは、システムがインターネットやさまざまなシステムへ無制限にアクセスできるようになれば、実際的な問題が悪化する可能性があると述べた。一方、サンドラ・ファハテルは、偽情報、環境への影響、雇用を現実的かつ緊急性の高い問題として挙げた。
ゲイリー・マーカスは、決定的な違いは、人間の利益と整合した超知能AIと、人間の利益に整合しない超知能AIとの間に生じると考えている。また、現在の議論にはメディア上の喧騒や、慎重さと責任の不足が含まれていることも認めている。したがって、元の情報源は人類絶滅のシナリオが差し迫っている、あるいは確実であることを証明してはいない。しかし、リスクの水準をめぐる対立はもはや学術的なものだけではなく、法制化、リリース前の試験、モデルがシステムへアクセスできる範囲に結び付いていることを示している。