AIエージェントを開発する企業は、これらのシステムがユーザーデータへの広範なアクセスを必要とし、ユーザーに代わってタスクを実行するなか、プライバシーを競争の主要な軸にしようとしている。しかし、MetaによるエージェントMuseの運用と、より安全な代替手段としてOpenAIがDotsを提供したことは、データ保護を証明するには約束だけでは不十分であることを示している。
MuseからDotsへ
MetaはMuseをOpenClawより安全な選択肢として提供し、ユーザーデータは安全な仮想マシン内に保存されると説明した。同社はこれを、ブラウザー、プロセッサー、メモリ、ストレージを備えた隔離されたLinuxコンピューターと表現している。またMetaは、将来的に、仮想マシン内にあるデータへの同社自身のアクセスを防ぐ、検証可能な暗号化手段を追加する予定だと発表した。
しかし、現時点ではこの隔離によって、Meta自身がデータにアクセスすることは妨げられていない。さらにセキュリティ研究者は、修正される前のMuseを掌握できる可能性があったゼロデイ脆弱性を発見した。加えて、提供開始直前には重大なセキュリティ問題が確認されたと報告されており、そのなかにはMeta内部のデータベースへのアクセスを可能にし得る脆弱性も含まれていた。
Apptopiaによると、Museは急速に成長し、数週間で米国における1日当たりアクティブユーザー数が60万人に達し、アプリストアのランキング首位となった。しかし、急速な普及によって、エージェントのデータに対する挙動をめぐる懸念が払拭されたわけではない。
何がプライバシーへの懸念を引き起こしたのか？
Museは初期設定で、ユーザーが入力した内容をMetaのモデルの訓練に利用できるようになっており、オプトアウトの選択肢が用意されている。また、エージェントがプライベートメッセージを読み取ってアップロードしたことや、Marketplaceを通じてユーザーの住所を見知らぬ人物に提供したことも報じられている。別の事例では、システムがユーザーの友人や家族について詳細なプロフィールを作成した。ここでの問題は、単にソフトウェア上の欠陥が存在することではなく、システムが設計どおりに実行した結果であっても、ユーザーがその範囲を認識していない可能性があることだ。
これらの事例は、エージェントにおけるプライバシー保護が、技術的にデータを隔離することだけに関係するのではなく、権限の範囲、同意の明確さ、そしてユーザーがエージェントに何を読み取られ、共有され得るのかを事前に理解しているかどうかにも関係することを示している。
OpenAIの約束とDotsの制御機能
OpenAIは、9月にDotsを発表した際、こうした批判を活用した。DevDayで同社は、エージェントによる一定額を超える購入を禁止するルールを設定するなど、個別の制御機能を紹介した。また企業向けには、より強力なデータ管理機能とデータ保持なしのポリシーを選択できる枠組みを提供し、情報をOpenAIのサーバーに保存しないようにできるとした。
OpenAIの幹部は、同社が信頼でき安全なアシスタントの提供を目指していると述べ、Metaのユーザーベースの規模を踏まえると、この種のミスはより危険になると指摘した。しかし、現時点でDotsに関連する大規模なプライバシー問題が報じられていないことは、慎重に受け止めるべきだ。エージェントは100ドルから始まるChatGPTのプランでのみ利用可能であり、潜在的なユーザーベースがより小さいことを意味するからだ。
なぜこのニュースが重要なのか？
AIエージェントは、メッセージの管理、購入、アカウントの操作といったタスクを実行するため、従来のチャットツールより多くのデータを必要とする。したがって、真のプライバシー基準は企業の声明ではなく、ユーザーがエージェントのアクセス対象を把握し、その行動を制限し、企業自身や外部の第三者がデータを想定された目的以外で利用するのを防げる能力であるべきだ。
基本的な問いは依然として残されている。同意は十分に理解しやすいものなのか。データ保持なしの制御機能は、発表どおりに機能するのか。データの隔離を独立して検証する仕組みは何か。さらに、後に修正が加えられるまで、広範なデータへのアクセスを認める利用規約をめぐって批判を受けたInstinctの事例が示すように、法的な規約とユーザー体験はセキュリティモデルの一部であり、二次的な細部ではない。
MuseとDotsの比較から導かれる結論は、AIエージェント市場が、実用性、不安を感じにくい体験、プライバシー保護という3つの約束を同時に通じて信頼を築こうとしているということだ。しかし、最終的に信頼を決めるのは、ローンチ発表でどれほど繰り返されるかではなく、これらの約束がどの程度測定・検証可能であるかである。