Cloudflareは、Identity-aware AI GatewayがCloudflare Accessとの統合を通じてオープンベータで利用可能になり、一方でUser InsightsがAI Gatewayのすべての顧客に追加料金なしで一般提供されるようになったと発表した。両機能は、ゲートウェイを通過するリクエストのトラフィックを利用して、各個人またはソフトウェアエージェントの行動プロファイルを構築し、その後、通常のパターンから外れたアカウントを管理者に知らせる。
Cloudflareは、誰がAIをどのように利用しているかを把握することは、ガバナンスとセキュリティ上の課題だと述べている。同社は、スタンフォード大学の報告書を引用し、59%の組織が、責任あるAIガバナンスにおける最大の障壁として知識のギャップを挙げたと指摘している。同社は、この問題への対処には、すべてのリクエストに結び付いた検証済みのアイデンティティと、各アイデンティティにとって通常の利用状況を示すベースラインが必要だと考えている。
すべてのリクエストに検証済みのアイデンティティ
AI GatewayはAI利用の中央制御ポイントとして機能する。アプリケーションや開発者ツールは、OpenAI、Anthropic、Google、Workers AIのモデルに直接接続する代わりに、リクエストをAI Gatewayに中継する。また、Claude Code、Codex、GitHub Copilotなどのツールもゲートウェイ経由にでき、同じ可視性と制御の対象にできる。
Cloudflare Accessと統合すると、顧客はゲートウェイの前段にカスタムドメインを配置し、他のアプリケーションと同じように保護できる。これにより、次のことが可能になる。
- Cloudflare APIキーを作成して配布する代わりに、OktaやEntraなど、SAMLをサポートするアイデンティティプロバイダーを通じて認証する。
- アクセスを許可されたユーザーに基づいて、ゲートウェイへのアクセス・ポリシーを設定する。
- URLにアカウントまたはゲートウェイの識別子を含めず、ai.example.comのような簡潔なホスト名を使用する。
- 検証済みのAccessユーザーIDをcf.user_idフィールドのリクエストメタデータに追加し、リクエストを送信した人物に基づいてログ、分析、支出を並べ替えられるようにする。
支出上限と組み合わせれば、ユーザーごとに個別の予算を作成し、上限に達した時点でリクエストを停止したり、より低コストのモデルに切り替えたりできる。Cloudflareによると、将来的にはアイデンティティプロバイダーのグループによって、各グループが利用できる支出上限やモデルを設定できるようになる。例えば、機械学習チームには高度なモデルへのアクセスを与え、サポートチームには支出上限を課すといった運用が可能になる。
Flexportのシニアセキュリティエンジニアであるマックス・バウムガルテン氏は、共有APIキーでは、AIサービスのユーザーを把握し、従業員のアクセスルールを適用することが難しくなると述べた。同氏は、AI Gatewayの前段にCloudflare Accessを配置することで、すべてのリクエストを検証済みのアイデンティティに結び付け、顧客ごとに個別の認証システムを構築せずに既存のアイデンティティ・ポリシーを利用できると付け加えた。
User Insightsがアカウントごとのベースラインを構築
User InsightsはAI Gateway内に表示され、追加設定なしで既存のトラフィックを読み取る。この機能は、キャッシュヒット率の低下やコンテキストウィンドウの肥大化など、コストや無駄の原因を追跡する一方、別の問いにも焦点を当てる。つまり、そのアカウントが自身の履歴に照らして通常どおりに行動しているかどうかである。
この機能は、人とエージェントにはそれぞれ異なるパターンがあることを前提としている。あるエージェントは3時間ごとに定期的にチケットの要約を行う一方、あるユーザーはさまざまなリクエストを送信し、複雑な問題の処理時には長時間のセッションを行う可能性がある。そのためUser Insightsは、すべてのユーザーに共通する一律のしきい値ではなく、セッションをそのアカウント自身の履歴と比較する。
監視の仕組みは、過去30日間のセッションコストを記録し、その後、アカウントのセッションコストに対する95パーセンタイル（p95）を使用することから始まる。このベースラインの2倍を超えるセッションは、異常行動の有力な候補となる。同時にCloudflareは、アカウントレベルで99パーセンタイル（p99）の上限と最低金額を使用するため、支出の少ないユーザーにおけるごく小さな急増がアラートを発生させることはない。
自動判断を行わずに逸脱を監視
User Insightsは、通常のパターンを逸脱したアカウントを異常行動の概要にまとめる一方、利用量の多いユーザーにとって自然な増加や、金銭的価値が低い増加は除外する。逸脱は、サービスアカウントがより高コストなセッションを多く開始し始めたことや、ユーザーの支出が大幅に増加して数日間その状態が続いていることを示す可能性がある。
この機能はユーザーの意図を判断したり、自動的にユーザーをブロックしたりするものではなく、管理者が調査を開始できるよう、通常とは異なるアカウントを表示する。結果として、セキュリティインシデントに至る場合もあれば、完全なコードリポジトリを送信する代わりに必要な部分だけを送信するなど、より効率的な方法をユーザーに案内するだけで済む場合もある。Cloudflareは、支出と逸脱の表示はCloudflare Accessなしでも機能するが、リクエストを実在のアイデンティティに結び付けることで、匿名のアカウント識別子が対応可能な名前に変わると説明している。
提供状況と次のステップ
User Insightsは本日より、AI Gatewayを通過するトラフィックがあることを条件に、すべてのAI Gateway顧客が追加料金なしでダッシュボードから利用できる。Cloudflare Accessと連携するIdentity-aware AI Gatewayは、現在オープンベータで提供されている。Cloudflareは、ポリシーや利用上限を適用する前にベースラインを把握するため、まず監視モードから始めることを推奨している。
同社は、タスクの種類に基づくインテリジェントなルーティングの開発も進めている。これは、必要な結果を達成できる最も低コストのモデルを選択するものであり、リクエストをプログラミングや執筆などのカテゴリに分類する機能も含まれる。同社によると、こうした分類は、組織がAI利用の目的を理解し、商用利用と個人利用を区別するのに役立つ可能性がある。ただし、インテリジェントなルーティングと分類は依然として開発中であり、現行リリースで利用可能な機能としては発表されていない。