ドナルド・トランプ米大統領の政権は、人工知能を国民や政策決定者に提示する新たな方法を探している。公式の指示を受け、米政府機関は「人工知能」ではなく「超知能」という表現を使用するよう求められるようになった。同時に、著名なテクノロジー企業の幹部数人が集まり、「先端技術に対する責任に関する共同コミットメント」に署名した。
これらの動きは、TechCrunchのポッドキャストEquityの最新回の主要テーマとなった。出演者はKirsten Korosec、Sean O’Kane、Anthony Haである。議論では、この会合と協定が人工知能政策における実質的な転換を示すのか、それともこの技術の世間のイメージを作り直そうとする試みなのかに焦点が当てられた。
法的拘束力のない安全協定
企業とテクノロジー業界のリーダーたちは、トランプが主催した晩餐会の場で協定に署名した。出席者には、Mark Zuckerberg、Jeff Bezos、Elon Musk、そしてAnthropicの最高経営責任者であるDario Amodeiなどが含まれていた。しかし、番組の参加者たちは、この協定が実際の変化をもたらす能力に疑問を呈した。自主的なものであり、法的拘束力がないためである。トランプはこれを「道徳的に拘束力がある」と表現したが、議論によれば、この表現によって、遵守しなかった場合の実施メカニズムや明確な罰則が協定に与えられるわけではない。
Sean O’Kaneは、文書そのものに米国の名称の綴りの誤りが含まれていたことも指摘し、協定が急いでまとめられたという印象を強めた。したがって、この文書の存在は、その実施内容よりも大きな意味を持つ可能性がある。政府と企業は、安全性について公に誓約を発表する必要を感じたが、その誓約が新たな要件や拘束力のある変更につながるという証拠を、情報源は示していない。
実際には何が変わるのか？
参加者たちは、最も大きな転換は言語的かつ政治的なものになる可能性があると見ている。「人工知能」を「超知能」に置き換えることで、この技術を異なる物語の中に位置づけられる。従来の人工知能は恐怖、雇用の喪失、リスクと結びつけられる一方、新しい表現は進歩と戦略的能力を示唆する。Kirsten Korosecはこれを、技術の性質やリスクに実証済みの変化をもたらすものではなく、技術をめぐる言説の「改称」または再構築だと表現した。
この見方が重要なのは、用語を変更しても、安全システム、利用規則、企業の責任が自動的に変わるわけではないからだ。情報源には、安全性をどのように測定するのか、誰が遵守を監督するのか、あるいは企業が誓約の実施を拒否した場合に何が起こるのかを説明する実施上の詳細は記されていない。
ホワイトハウスと国防総省の間に立つAnthropic
番組では、Anthropicと米政権の緊張した関係についても取り上げられた。Dario Amodeiは拡大会合の数日前にトランプとの夕食会に招かれたが、それによって政府内部の対立が終わったわけではない。議論によれば、ホワイトハウスにはAnthropicの技術の利用や同社の意思決定への関与に関心を持つ勢力がある一方、国防総省は同社を批判し続け、政策または国家安全保障に関わる問題だとみなしている。
したがって、Amodeiの出席だけでは対立が解決した十分な証拠にはならない。むしろ、同社に対する政府の立場が統一されていないこと、そして政治的な意思疎通が、同社の技術の利用条件や米国の機関内での評価の変化を必ずしも意味しないことを示している。
certi.newsの見解
この出来事の実質的な価値は、新たな政治的言説と、効果が限定的な安全性への誓約を組み合わせた点にある。会合は、政権と企業が人工知能のリスクに対処しているように見せたいという意向を明らかにしているが、新たな監督枠組みの存在を証明するものではない。一方、名称変更は、人工知能を国民に提示する方法に影響を与える可能性があるものの、説明責任、テスト、利用制限に関する実務上の疑問には答えていない。
残る未解決の問いこそが重要である。自主的なコミットメントは、執行可能な規則へと変わるのか。共通の政治的メッセージは、米政権の機関と人工知能企業の間にある対立を乗り越えられるのか。利用可能な資料は答えを示していないが、協定そのものだけでは、規制上の転換が起きたことを証明するには不十分だという点を明らかにしている。