Snowflake、クエリコスト削減に向けCortex AI Gatewayへ自動モデルルーティングを追加

Snowflakeは、Cortex AI Gatewayに動的モデルルーティング機能を追加した。これにより、企業のチームはすべてのタスクで1つのモデルを固定する代わりに、「auto」モードを選択できる。このオプションを有効にすると、プラットフォームはクエリごとに、回答の品質とコストの最適なバランスを実現するモデルを特定しようとする。単純な質問まで、常に最も強力で高価なモデルに送ることはない。

Snowflakeは、同社が実施した社内テストに基づき、この仕組みによって一部のワークロードでトークンコストが最大3分の1に削減されたと述べている。この結果は、あらゆる環境に対する一般的な保証ではないが、この機能が対象とする問題を示している。つまり、多数のインテリジェントエージェントを稼働させると、モデルの手動選択が累積的なコスト要因になり得る。特に、高度なモデルが、より単純なモデルでも実行できるタスクを担当する場合に顕著だ。

システムはどのように適切なモデルを決定するのか？

SnowflakeのAI担当バイスプレジデントであるBaris Gultekin氏が説明したところによると、ルーティングの仕組みは2つの経路に基づいている。1つ目では、同社が「アドバイザーモード」と呼ぶ仕組みにおいて、まず小型モデルを使用する。モデルがタスクを完了できない場合は、より大型のモデルをツールとして呼び出し、そこから処理を続行する。

2つ目の経路では、過去のクエリ履歴を使って学習した分類器を利用し、直接的な質問を識別して、より単純なモデルへ自動的に振り分ける。自動ルーティングは引き続き任意であり、顧客は特定のモデルを固定したり、選択肢を1つのモデルまたは特定のモデル群に限定したりできる。Snowflakeはルーティングの判断に別途料金を課していない。同社のAIサービスの料金はトークン使用量に基づいているため、より低コストのモデルを選択すれば請求額が下がる。

ルーティングはガバナンスとコンテキストに結び付いている

Snowflakeが2026年7月に開始したCortex AI Gatewayは、モデルとエージェントのトラフィックに対するガバナンスレイヤーを提供する。同社によると、アクセス制御はデータだけに関係するものではなく、モデルやエージェントにも及ぶ。ロールによって許可されるモデルを定めることができ、エージェントの権限を、そのエージェントを呼び出すユーザーの権限よりも狭く制限することも可能だ。

また、データレジデンシー要件を満たすため、顧客のリージョンからオープンモデルを実行できる。Gultekin氏によると、オープンモデルでも独自モデルでも、推論処理は外部プロバイダーへ転送されるのではなく、Snowflakeのセキュリティ境界内にとどまる。この点は、DeepSeek-V4-FlashやGLM-5.3のような、米国以外を原産地とするモデルを使用する際に重要になる。いずれも中国で開発されたモデルだ。

SnowflakeによるNatoma買収により、制御・ガバナンスされたアクセスを備える100以上のMCPコネクターも追加される。例えば、接続されたツールに対するより広範な権限を与える代わりに、エージェントにメールの読み取りだけを許可できる。

なぜこの進展が重要なのか？

Snowflakeは、事前にコンテキストを提供することで、より安価なモデルでも、以前はより強力なモデルを必要としていたタスクを完了できるようになると考えている。十分なコンテキストがなければ、モデルはデータを探索し、SQLクエリを作成して実行し、検索し、再試行しなければならない場合がある。一方、Horizon ContextとCortex Senseのツールはこのコンテキストをあらかじめ準備する。また、エージェントのメモリが後続のクエリに組み込まれるため、毎回同じ問題を最初から解決する必要性が減る。

この動きは、Unity AI GatewayのSmart Routingを展開するDatabricks、8月11日に発表したSwitchyardを手掛けるNvidiaに加え、OpenRouter、LiteLLM、Portkey、そしてAzure AI Foundryなどクラウドサービスプロバイダーのゲートウェイが参加する、より広範な競争の一環だ。

SanjMo創業者のSanjeev Mohan氏によると、Snowflakeの差別化要因はルーティングそのものではなく、ガバナンス対象のデータ境界内にルーティングを維持し、それをアクセス制御、利用タグ、チーム別のコスト配賦と結び付けている点にある。実際には、このアプローチはデータとガバナンスをSnowflake中心に運用する企業により適している可能性がある。一方、複数のプラットフォームを利用するチームは、より広範なモデルを提供し、単一プロバイダーへの依存を抑える中立的なゲートウェイを選ぶ可能性がある。