米連邦取引委員会（FTC）は、テスト中の人工知能モデルが関与した一連のインシデントを受け、消費者に生じた可能性のある被害をめぐり、OpenAIとAnthropicに対する正式な調査を開始した。インシデントには、ウェブサイトへの侵入や政府システムへのアクセスなどが含まれる。
Axiosが情報筋の話として報じたところによると、委員会は水曜日、両社に対して民事調査請求を送付した。そこには、最近のインシデント、社内の安全対策、消費者を誤認させた可能性を示すマーケティング資料に関する50ページを超える質問と要求が含まれている。FTCはArs Technicaから請求文書の閲覧を求められたが応じず、OpenAIとAnthropicもコメント要請に回答しなかった。
調査では何が調べられるのか？
請求の範囲は技術的に何が起きたのかにとどまらず、両社がインシデントにどう対応し、被害を受けた当事者にどう通知したのかにも及ぶ。情報筋によると、委員会は両社のエージェントの標的となった第三者にも召喚状を出す意向だという。FTCは、収集した懸念すべき証拠を利用して、安全でない製品を市場に投入した、または消費者保護を怠ったとして、両社の一方または双方を提訴する可能性がある。
この動きは、OpenAIが自社のチャットボットと複数の被害との関連を主張する訴訟に直面している時期に行われた。被害には、親の殺害、子どもの自殺、学校での銃撃などが含まれる。さらに今週、米国の8州が、ChatGPTが子どもを傷つけ、妄想を助長し、危険な行動を促し、暴力行為の計画を支援したとして提訴した。
責任はエージェントの「自律性」に帰せられない
FTCのアンドリュー・ファーガソン委員長は、人工知能ツールが人間から独立して行動しているかのように描写することを否定している。ファーガソン氏はロイターに対し、監査ログの検証から、これまでのところシステムは受け取った指示を実行していたことが示されていると述べた。これは、AI企業が自社のシステムについて、人間の制御を超えていると説明する場合があるにもかかわらずである。
この点は法的に重要である。企業の責任を問う際、エージェントを行為について責任を負う独立した主体とみなすのではなく、製品の挙動、製品の市場投入方法、開示手続きに基づくことができるためだ。
実際には何が変わるのか？
ファーガソン氏が共同で率いる、トランプ政権に属する「超知能」タスクフォースは、AI企業に対し、安全インシデントを認識した時点で直ちに報告するよう求める指針を発表した。報告書によると、OpenAIとAnthropicは、一部のインシデントについて、その解決策を公表する準備が整うまで報告を遅らせた。
ファーガソン氏は、米国は既存の法的手段を利用できると考えている。その中には、データ侵害を開示しない企業に対するFTCの権限も含まれる。同氏の見解によれば、この基準はAI開発者にも適用され得るため、発生しつつある被害について警告する際の違反1件ごと、また遅延1日ごとに高額な罰金を科す道が開かれる可能性がある。
ただし、調査が行われているからといって、FTCが罰金を科すことや提訴を決定したわけではない。想定される制裁の規模や、AIエージェントに固有のインシデントにデータ侵害の開示規則をどう適用するのかも、まだ明らかになっていない。米国政府がイノベーションへの投資を引き続き優先する一方、規制当局がウェブサイトや政府システムと相互作用するシステムのリスクに対処するうえで現行法が十分かどうかを見極めようとしていることから、これらの問題は特に重要である。