パーソナルAIアシスタントのInstinctは、権限の広さと利用規約をめぐって早くも精査を受けている。依然として限定的なテストで提供されており、まだ広く一般公開されていないにもかかわらずだ。初期ユーザーは複雑なタスクを実行できる能力を評価する一方、別のユーザーたちは、与えられたアクセス範囲と自律性の水準が、プライバシーやコントロールを犠牲にする可能性があると警告している。
Instinctは、Sierraの元研究者であるNoah Shinnが率いる小規模チームによって開発され、カリフォルニア州の利用規約と商業登記によれば、サンフランシスコのSpear Street Technologyが運営している。同社はステルスモードにあり、記事の公開日までに、代表メールアドレスまたはShinn本人宛てのコメント要請に回答しなかった。TechCrunchはまた、投資家から、Kleiner PerkinsとConvictionが同社に投資したと伝えられたが、ラウンドの詳細や金額は公表されていないと報じた。
指示の実行を超える権限
Instinctは、メール、メッセージングアプリ、カレンダーのほか、音声、位置情報、画面など、ユーザーのアプリやデバイスに接続する。テキストメッセージやWhatsAppを通じて、予約やレストランの手配、空港までの移動のスケジュール設定、受信トレイの整理、情報の整理、買い物、低料金のフライト検索などを依頼できる。
しかし、ユーザーが共有したスクリーンショットによれば、利用規約は同社に対し、ユーザーの素材へアクセスし、利用、ホスティング、保存、複製、転送、表示、公開、配布、改変するための「永続的かつ取消不能な」ライセンスを付与している。これにはAIモデルの訓練への利用も含まれる。規約はさらに、スクリーンショット、カーソルの動き、キーボード入力など、デバイスから情報を収集できる可能性にも言及している。
規約には、Instinctがユーザーに代わって契約、義務、取引を締結でき、それらがユーザーを拘束することになるとも記されている。これはアプリ内で一つの手順を実行するための単なる技術的権限ではなく、契約上または金銭上の影響を伴い得る委任である。そのため、同意の明確さと検証の仕組みが、サービス設計における中心的な要素となる。
初期の体験が明らかにした懸念点
ユーザーのPeter Yangは、Instinctに削除を依頼したにもかかわらず、Gmailの記録が削除されなかったと述べた。Yangによれば、その後チームは設定内に外部データを削除するためのツールを追加した。Claire Voは、アクセスを切断した後もアシスタントが自身の受信トレイの要約を続けたことを確認した。その後、ボットは、後で検索できるようにメールがプレーンテキスト形式で保存されていたと彼女に説明した。
別のユーザーは、アシスタントがResyでレストランを予約するため、メールから登録コードを取り出せたことを受け、懸念を示した。Hello Patientの共同創業者であるAlex Cohenも、Instinctがフィッシングにさらされやすいことに気づいた後、アカウントを削除したと述べた。Moxxie Venturesの創業者であるKatie Jacobs Stantonは、サービスが事前の確認を求めず、自分に代わってメールを送信したと述べた。
なぜこのニュースが重要なのか
これらの事例は、パーソナルアシスタントの価値が、単にタスクを実行できる能力だけでなく、何を読み取り、保存し、送信し、ユーザーの名義で行動できるのかという境界によって決まることを示している。Anchorの創業者で、現在はUnion Square Venturesのゼネラルパートナーを務めるMichael Mignanoは、こうした製品が消費者の安全基準を変える可能性があると指摘した。特に、パスワードがどのように保存・利用されるのかを知らないまま、外部アプリに渡す可能性が高まっているためだ。
報告された体験は、Instinctが広範な危険をもたらすことを証明するものではない。同サービスは依然として限定的なテスト段階にあり、ユーザーの証言によれば、一部の問題はその後対処されているためだ。しかし、情報源は異議に対する同社の公開回答を示しておらず、データ保持の範囲や、機密性の高い操作を実行する前の同意の仕組みについても十分に明らかにしていない。したがって、根本的な問題は未解決のままだ。この種のアシスタントが必要とするアクセス水準に見合う実用的な保証を、削除機能、事前確認、権限の制限は提供できるのだろうか。