Microsoftのブラッド・スミス社長は、人工知能（AI）を規制する緊急の世界的ルールを策定するよう呼びかけ、こうしたシステムを開発する企業は、牛乳や洗濯機のような消費者向け製品よりも監視が少ないと警告した。スミス氏はBBCのポッドキャストで、AIは同時に「武器であり道具」になり得ると述べ、サイバーセキュリティを脅かしていることから、世界的な安全ルールを制定する時期は差し迫っていると語った。
スミス氏は、米国でも欧州連合でもなく、英国がこの取り組みを主導するのに最も適した立場にあると考えている。この評価の根拠は、英国AI安全研究所（AISI）の役割にある。同研究所は2023年に設立され、米国の主要な研究所が大規模モデルを公開前に利用できるようにし、その試験とリスク評価を行っている。
政治的圧力を受けるモデル試験
トランプ米大統領が「世界的」と称する組織が米国企業の利益に介入していると警告したことで、ここ数週間、同研究所の役割が脅かされていた。記事によると、トランプ氏はAnthropicとOpenAIに対し、新しいモデルを英国の試験担当者に提供しないよう求めたと報じられている。しかし同研究所は月曜日、最新モデルへのアクセスと試験を継続できると確認した。
スミス氏は、ロンドンにはワシントンにはない規制上の余地があると考えている。同氏は、米国の首都の政策決定者は英国やロンドンを、ブリュッセルを見るのと同じようには見ていないと述べ、これは共通ルールをめぐって各当事者をまとめようとする際の強みになると指摘した。
実際には何が変わるのか？
スミス氏は、自主的な誓約から、執行可能な法的義務への移行を提案している。同氏が挙げた措置には、制御不能になったAIエージェントによってシステムが侵害された場合、組織に通知を義務付けることや、AI研究所に対し、製品を発売する前に独立した評価者の承認を得るよう求めることが含まれる。
また、AIシステムを人間が制御できなくなった場合に、システムの動作を遅らせたり一時停止したりできる停止スイッチについても前向きに語った。こうした呼びかけは、制御不能な形でソフトウェアエージェントが動作した事例を受け、AnthropicとOpenAIの幹部がAI開発を減速させるよう求めたことに続くものだ。
自主規制の限界
OpenAI、Anthropic、Nvidia、AMD、SpaceX、Meta、Googleなどの企業幹部は、ホワイトハウスで「倫理的に拘束力のある」文書に署名し、モデルの安全性と能力を評価するために独立監査人と協力することを約束していた。スミス氏は、この文書を良い一歩だと評価した一方で、必要な規制の水準には達していないと述べた。自主的な取り組みは責任ある企業に限られる可能性がある一方、最大のリスクは、より遵守意識の低い主体に潜んでいるためだ。
スミス氏の発言は、発売前に試験、報告、制御の仕組みを義務付けるルールを求める動きが、AI業界内で強まっていることを示している。しかし、それ自体が政府の政策や国際協定を意味するものではない。英国が最新モデルを試験する能力を維持できるのか、また研究所と規制当局の協力が法的拘束力のある義務へと変わるのかは、依然として未解決の問題である。