Cloudflare объявила, что Identity-aware AI Gateway стала доступна в рамках открытого бета-тестирования благодаря интеграции с Cloudflare Access, а функция User Insights теперь общедоступна для всех клиентов AI Gateway без дополнительной платы. Обе функции используют трафик запросов, проходящий через шлюз, чтобы сформировать поведенческую картину для каждого человека или программного агента, а затем обратить внимание администраторов на учетные записи, отклоняющиеся от привычного шаблона.
Cloudflare заявляет, что понимание того, кто использует искусственный интеллект и что именно он делает, представляет собой организационную и безопасностную проблему. Компания ссылается на отчет Стэнфордского университета, согласно которому 59% организаций назвали пробелы в знаниях крупнейшим препятствием для ответственного управления ИИ. По мнению компании, для решения этой проблемы необходимы подтвержденная идентификация, связанная с каждым запросом, и базовая линия, показывающая нормальный характер использования для каждой идентичности.
Подтвержденная идентичность для каждого запроса
AI Gateway служит центральной точкой контроля использования искусственного интеллекта: приложения и инструменты разработчиков направляют запросы через него вместо прямого подключения к моделям OpenAI, Anthropic, Google и Workers AI. Через шлюз также можно направлять такие инструменты, как Claude Code, Codex и GitHub Copilot, чтобы на них распространялись те же средства видимости и контроля.
При интеграции с Cloudflare Access клиент может разместить перед шлюзом пользовательский домен и защитить его так же, как любое другое приложение. Это позволяет:
- выполнять аутентификацию через поставщика удостоверений с поддержкой SAML, например Okta или Entra, вместо создания и распространения ключей Cloudflare API;
- определять политики доступа к шлюзу на основе списка разрешенных пользователей;
- использовать понятное имя хоста, например ai.example.com, без включения идентификатора учетной записи или шлюза в ссылку;
- добавлять подтвержденный идентификатор пользователя Access в метаданные запроса в поле cf.user_id, что позволяет сортировать журналы и аналитику, а также рассчитывать расходы по человеку, отправившему запрос.
В сочетании с лимитами расходов можно создать отдельный бюджет для каждого пользователя, а при достижении лимита останавливать запросы или перенаправлять их к менее дорогой модели. Cloudflare заявляет, что в будущем группы поставщика удостоверений смогут определять лимиты расходов или доступные модели для каждой группы — например, предоставлять команде машинного обучения доступ к продвинутым моделям или устанавливать верхний предел расходов для команды поддержки.
Макс Баумгартен, старший инженер по безопасности в Flexport, заявил, что общие API-ключи затрудняют определение пользователя сервиса искусственного интеллекта и применение правил доступа сотрудников. Он добавил, что размещение Cloudflare Access перед AI Gateway связывает каждый запрос с подтвержденной идентичностью и позволяет использовать существующие политики идентификации без создания отдельной системы аутентификации для каждого клиента.
User Insights создает базовую линию для каждой учетной записи
User Insights отображается внутри AI Gateway и анализирует уже существующий трафик без необходимости дополнительной настройки. Функция отслеживает стоимость и источники потерь, такие как низкий коэффициент использования кэширования или большие окна контекста, но также сосредоточена на другом вопросе: ведет ли учетная запись себя обычно относительно собственной истории?
Функция учитывает, что у людей и агентов могут быть разные шаблоны поведения. Например, агент может регулярно каждые три часа суммировать заявки, тогда как человек отправляет разнообразные запросы и проводит длительные сеансы при решении сложных проблем. Поэтому User Insights сравнивает сеанс с историей самой учетной записи, а не с единым порогом для всех пользователей.
Механизм мониторинга начинает с регистрации стоимости сеансов за последние 30 дней, а затем использует 95-й перцентиль (p95) стоимости сеансов учетной записи. Сеанс, превышающий эту базовую линию в два раза, считается сильным кандидатом на аномальное поведение. Одновременно Cloudflare использует ограничение на уровне учетной записи по 99-му перцентилю (p99) с минимальным порогом в долларах, чтобы небольшой скачок у пользователя с низкими расходами не приводил к срабатыванию оповещения.
Выявление отклонений без автоматического принятия решений
User Insights объединяет учетные записи, нарушившие привычный шаблон, в сводку аномального поведения, исключая всплески, которые выглядят естественными для активно использующего сервис пользователя или незначительными с финансовой точки зрения. Отклонение может указывать на то, что сервисная учетная запись начала запускать более дорогие сеансы, или на резкий рост расходов пользователя, который продолжался несколько дней.
Функция не определяет намерения пользователя и не блокирует его автоматически, а показывает необычные учетные записи администратору для начала расследования. В итоге это может оказаться инцидентом безопасности или просто поводом указать пользователю на более эффективный способ работы — например, не отправлять весь репозиторий кода, когда достаточно отправить его фрагмент. Cloudflare подчеркивает, что просмотр расходов и отклонений работает без Cloudflare Access, однако привязка запроса к реальной идентичности превращает анонимный идентификатор учетной записи в имя, в отношении которого можно принять меры.
Доступность и дальнейшие шаги
User Insights с сегодняшнего дня доступна в панели управления каждому клиенту AI Gateway без дополнительной платы при условии наличия трафика, проходящего через шлюз. Identity-aware AI Gateway с Cloudflare Access сейчас доступна в рамках открытого бета-тестирования. Cloudflare рекомендует начать с режима мониторинга, чтобы сформировать базовые линии, прежде чем вводить политики или ограничения использования.
Компания также разрабатывает интеллектуальную маршрутизацию на основе типа задачи, которая будет выбирать наименее дорогую модель, способную обеспечить требуемый результат, а также классификацию запросов по категориям, таким как программирование и написание текстов. По словам компании, эти категории могут помочь организациям понять цель использования искусственного интеллекта и различать коммерческое и личное использование, однако интеллектуальная маршрутизация и классификация все еще находятся в разработке и пока не объявлены доступными функциями текущей версии.