チャールズ国王、AI指導者らに「手遅れになる前に」規制を導入するよう呼びかけ

チャールズ国王は、人工知能企業の指導者や政府関係者に対し、この技術を「手遅れになる前に」十分に制御する手段を見いだすよう呼びかけた。これは、国王が9月17日木曜日、スコットランドのエアシャー州にあるDumfries Houseで主催した非公開サミットでの発言だ。

会合には、Nvidiaの最高経営責任者（CEO）Jensen Huang、OpenAIとAnthropicの幹部、英国の新任AI相Kanishka Narayanのほか、英国の対外情報機関の長が参加した。また、ローマ教皇にAIについて助言しているPaolo Benantiも出席した。OpenAIからは最高財務責任者（CFO）のSarah Friarが派遣され、Anthropicは国際関係責任者のTino Cuéllarが代表を務めた。

利点とリスクの双方に警鐘

国王は、人工知能には、特に医療や科学の分野で、生活を改善し、人命を救う大きな可能性があると述べた。しかし同時に、こうした技術の開発者たちは、それが「より暗い能力」を持つ可能性、さらには人命を奪う能力を持つ可能性について、警告を強めていると指摘した。

チャールズ国王は、技術が誤った人々の手に渡り、壊滅的になり得る方法で利用されることから生じる「存亡に関わる危険」と、こうした懸念を結び付けた。また、人工知能の急速な発展を「興味深いと同時に非常に懸念すべきもの」と表現し、出席者に対して、この技術が人間、社会、そして自然界に役立ち続けるよう確保することを求めた。

報道によると、国王の滞在時間はわずか約20分で、その後、参加者たちは互いに議論を続けた。Cuéllarは、Anthropicが参加できたことを光栄に思うと述べ、業界の指導者と社会の各分野の声を集め、公共の利益に資するAIの役割について話し合う場を設けた国王に謝意を示した。

なぜこの会合が重要なのか

この会合は、新たな規制政策や拘束力のある合意を発表するものではない。しかし、人工知能のリスクをめぐる議論が、モデル開発企業、政府、情報機関、宗教・社会分野の人物を集める場へと移行していることを示している。高度なモデルの開発を減速させるべきか、それともより速いペースで続けるべきかをめぐる意見の相違が続くなか、この交差点の重要性は増している。

このサミットは、人間より賢い機械を構築しようとする企業間競争について公に警告したAnthropicの研究者が辞任してから数日後に開催された。また、Sam Altman、Elon Musk、Dario Amodeiは開発を減速させるよう呼びかけている。これに対し、Jensen Huangと米国大統領Donald Trumpはこれらの呼びかけを拒否した。トランプ氏は、米国は人工知能で中国をリードしており、この分野で勝つ者がより広範な競争にも勝利すると述べた。

実行の詳細を欠く国際協力

チャールズ国王は、人工知能を公共の利益へと導く方法について、国際協力と合意を形成するようにも呼びかけた。しかし、情報源は、サミットの公式な成果、具体的な監督の仕組み、あるいはこの呼びかけを政策へと転換するための時間枠については言及していない。また、記事によると、AnthropicがFableとMythosの2つのモデルへのアクセスを米国の顧客に限定したことを受け、人工知能の主権をめぐる論争も依然として続いている。

certi.newsの分析：このサミットの実質的な価値は、新たな決定が下されたことではなく、人工知能のガバナンスを議論する関係者の範囲が広がったことにある。これは、安全性への配慮、地政学的競争、テクノロジー企業の利益の間に明確な衝突があることを反映している。一方で、中心的な問いは開かれたままだ。すなわち、誰が制御の限界を定めるのか、そして開発の速度が、対応する機関の能力を超える前に、どのようにそれを国際的に適用できるのかという問いである。