米国上院は、人工知能企業に「超知能人工知能」モデル向けの緊急停止手段の構築を義務付ける、「人工知能緊急ボタン法」と呼ばれる法案について、即時採決を阻止した。上院議員のジョン・ケネディが法案を全会一致で可決するよう求めたのに対し、上院議員のランド・ポールが反対したためである。この提案は、こうしたシステムが自律的な存在へと変化したり、制御不能になったりする懸念が高まる中で、「超知能人工知能」モデル向けの緊急停止手段を人工知能企業に構築させるものだ。
アナドル通信がThe Hill紙を引用して伝えた報道によると、ケネディは高度なシステムがもたらし得る潜在的リスクへの懸念が高まっていることを踏まえ、自身の法案の採決を提案した。しかしポールはこの申し立てに反対し、技術を十分に理解する前に議会が動けば、イノベーションを損ない、米国が技術の進展において数十年遅れる可能性があるとした。
ポールは、人工知能システムを停止または無効化する命令や装置に関して政府に広範な権限を与えれば、米国経済における技術の利用に悪影響を及ぼす可能性があると述べた。そして、この取り組みを超知能人工知能がもたらし得るリスクを調査する超党派の合同委員会の設置へと方向転換するよう提案したが、ケネディはこの提案を拒否した。
手続き上、何が起きたのか？
全会一致での採決要求が拒否されたからといって、法案が最終的に廃案になったわけではない。記事によれば、上院議員は法案を採決にかける申し立てに異議を唱えることができるが、別の手続きを通じて法案を上院の議事日程に載せ、採決にかけることが可能になる場合がある。報道は、新たな採決日を示しておらず、停止要件の実施を監督する機関や、提案されている技術基準など、法案の条文に関する追加の詳細にも触れていない。
対立は「停止ボタン」を超えている
この議論は、人工知能がより危険な水準に達する前に、その開発を遅らせるべきだとの声が米国内で高まる時期に起きている。Anthropicの最高経営責任者（CEO）ダリオ・アモデイは、OpenAIの最高経営責任者（CEO）サム・アルトマン、TeslaおよびSpaceXの最高経営責任者（CEO）イーロン・マスクとともに、開発努力を遅らせるよう求めている。
これに対して、米国のドナルド・トランプ大統領政権は、人工知能の開発を遅らせる新たな規則を導入するのではなく、イノベーションの促進を重視する方針を取っている。トランプ氏は、技術が制御不能になるとの懸念を「病的な陰謀」と表現し、開発を遅らせれば中国に優位性を与える可能性があると警告した。
なぜこの進展が重要なのか？
採決が阻止されたことは、未解決の規制上の問いを明らかにしている。高度なモデルを停止できる可能性を、法的な事前要件として扱うべきなのか、それともリスクが明確になるまで制御メカニズムの設計を企業に委ねるべきなのか、という問いである。実際に変わったのは、提案が採決への近道を得られなかったことであって、人工知能の安全性をめぐる対立が終わったことではない。いかなる「緊急ボタン」も、その有効性や使用条件、政府の権限の範囲は、情報源が明らかにしていない未解決の論点として残っている。