Snowflake добавила функцию динамической маршрутизации моделей в шлюз Cortex AI Gateway, что позволяет корпоративным командам выбирать режим «auto» вместо закрепления одной модели для всех задач. При активации этой опции платформа пытается определить модель, которая обеспечивает наиболее подходящий баланс между качеством ответа и его стоимостью для каждого запроса, вместо того чтобы всегда отправлять простые вопросы самой мощной и дорогой модели.
Snowflake заявила, что этот механизм сократил стоимость токенов до трёх раз в некоторых рабочих нагрузках на основании проведённых компанией внутренних испытаний. Этот результат не является общей гарантией для любой среды, однако он демонстрирует проблему, на решение которой направлена функция: выполнение большого количества задач интеллектуальными агентами может превратить ручной выбор моделей в накопительный источник затрат, особенно когда продвинутые модели выполняют задачи, с которыми способны справиться более простые модели.
Как система определяет подходящую модель?
Механизм маршрутизации, согласно объяснению Baris Gultekin, вице-президента Snowflake по искусственному интеллекту, работает по двум направлениям. В первом сначала используется небольшая модель в рамках того, что компания называет «режимом консультанта». Если модель не может выполнить задачу, она вызывает более крупную модель в качестве инструмента и продолжает работу с этого момента.
Во втором направлении используется классификатор, обученный на истории предыдущих запросов, чтобы распознавать прямые вопросы и автоматически направлять их к более простым моделям. Автоматическая маршрутизация остаётся необязательной: клиент может закрепить конкретную модель или ограничить выбор одной моделью либо определённым набором моделей. Snowflake не взимает отдельную плату за решение о маршрутизации, поскольку стоимость её сервисов искусственного интеллекта зависит от использования токенов, а выбор менее дорогой модели, соответственно, снижает счёт.
Маршрутизация связана с управлением и контекстом
Cortex AI Gateway, который Snowflake запустила в июле 2026 года, предоставляет уровень управления трафиком моделей и агентов. Компания заявляет, что средства контроля доступа относятся не только к данным, но и к моделям и агентам: роли определяют разрешённые модели, а агенту можно предоставить более узкие права, чем пользователю, который его вызывает.
Открытые модели также можно запускать из региона клиента для соблюдения требований к месту хранения данных. По словам Gultekin, операции вывода — как для открытых, так и для проприетарных моделей — остаются в пределах защищённой среды Snowflake, а не направляются внешнему провайдеру. Этот аспект особенно важен при использовании моделей неамериканского происхождения, таких как DeepSeek-V4-Flash и GLM-5.3, обе из которых разработаны в Китае.
Кроме того, сделка Snowflake по приобретению Natoma добавляет более 100 коннекторов MCP с контролируемым и управляемым доступом. Это позволяет, например, предоставить агенту право только на чтение электронной почты, а не более широкие полномочия в подключённом инструменте.
Почему это развитие важно?
Snowflake считает, что предварительное предоставление контекста позволяет более дешёвым моделям выполнять задачи, для которых раньше требовалась более мощная модель. Без достаточного контекста модели может потребоваться исследовать данные, писать и тестировать SQL-запросы, искать информацию и повторять попытки. Инструменты Horizon Context и Cortex Sense подготавливают этот контекст заранее, а память агента также интегрируется в последующие запросы, что снижает необходимость каждый раз решать ту же проблему с нуля.
Этот шаг является частью более широкой конкуренции, в которой участвует Databricks со Smart Routing в Unity AI Gateway, Nvidia с Switchyard, о котором компания объявила 11 августа, а также OpenRouter, LiteLLM, Portkey и шлюзы поставщиков облачных услуг, такие как Azure AI Foundry.
По словам Sanjeev Mohan, основателя SanjMo, отличие Snowflake заключается не только в маршрутизации, но и в сохранении маршрутизации в пределах управляемых данных с одновременной привязкой к средствам контроля доступа, меткам использования и распределением затрат между командами. На практике такой подход может лучше подходить организациям, чьи данные и управление ими сосредоточены в Snowflake, тогда как многоплатформенные команды могут предпочесть нейтральные шлюзы, предлагающие более широкий спектр моделей и уменьшающие зависимость от одного поставщика.