Metaは、同社のAIパーソナルアシスタント「Muse」のセキュリティバグ報奨金プログラムとして、約120万米ドルを支払ったと発表しました。これには、製品の正式リリース前に発見された重大な脆弱性に対して授与された30万ドルの最高額賞金が含まれており、同社のシステムおよびAI技術のセキュリティ強化に向けた取り組みの一環となります。
Museアシスタントは、電子メール、カレンダー、メッセージングプラットフォームなど、ユーザーのさまざまなアカウントを介してユーザーの代理として機能するAIエージェントであり、各ユーザーには独立した仮想マシン（VM）が割り当てられます。バグ報奨金プログラムは、4月に試験的に開始され、9月8日のアシスタント正式リリースに合わせて一般公開されました。同社は630件以上のセキュリティレポートを受け取り、そのうち64件が検証され受理されました。
注目すべき脆弱性と報奨金の詳細
30万ドルの最高額賞金は、アシスタントのリリース4か月前の内部テスト段階で脆弱性を発見したセキュリティ研究者に授与されました。この脆弱性により、Metaの従業員が使用する実験用仮想マシン上の会話やトークンへのアクセスが可能になっていました。
Metaのデビッド・シングルトン氏は、この問題の原因について、認証チェックがローカルのHTTPSプロキシによって追加されたリクエストヘッダーを、リクエストが信頼できるソースからのものであるという決定的な証拠として扱ったことにあると説明しました。システム移行の過程で環境に2つ目のプロキシ層が追加されたため、外部からのリクエストが同じ信頼ヘッダーを保持できるようになりました。これにより、同社はサービスを一時停止し、欠陥を修正し、ローカルデバイスを絶対的な信頼ソースとして依存することを廃止しました。
また、同社は、アシスタントが要約を求められた際に、ブラウジングツールのステータスメッセージを模倣する悪意のあるWebページに関するセキュリティレポートに対し、9万ドルを支払いました。これにより、AIエージェントは本来ブロックされるべきアクションを実行してしまいました。Metaは、検出シグナルの追加と、疑わしいツール出力の処理方法を改善することでこれに対処しました。別の9万ドルのレポートは、一連の攻撃の一部として、アシスタントの電子メールフィルタリングを回避するために特定の形式を使用したことに対するものでした。
アプリケーションのバグとサブ脆弱性
リストには、Androidアプリの脆弱性を対象とした5万ドルの報奨金も含まれています。これは、悪意のあるアプリが、ホストの検証を行わずに特権を持つWebビューにリンクを渡すことを可能にし、攻撃者のページがWebビューの認証情報を取得できるようにするものでした。さらに、Macアプリの脆弱性に対しては1,000ドルの報奨金が支払われました。これは、コンピュータへのアクセス権を持つ攻撃者が、自動更新機能を悪用してアプリケーションの権限でコードを実行できるようにするものでした。
これがAIセキュリティにとって意味すること
これらの結果は、ユーザーの機密データや個人アカウントに直接介入する自律型AIエージェントを開発する際、大手テクノロジー企業が直面する複雑なセキュリティ上の課題の大きさを浮き彫りにしています。プロンプトインジェクション攻撃に対して最大13万ドル、フリート全体の侵害に対して25万ドルという報奨金を設定するMetaのポリシーは、リスクが深刻化する前にAIインフラを強化するために、セキュリティ研究者コミュニティを惹きつけることの重要性を強調しています。