A Cloudflare anunciou que o Identity-aware AI Gateway está disponível em versão beta aberta por meio da integração com o Cloudflare Access, enquanto o recurso User Insights está disponível publicamente para todos os clientes do AI Gateway sem custo adicional. Os dois recursos aproveitam o tráfego de solicitações que passa pelo gateway para construir um perfil comportamental de cada pessoa ou agente de software e, em seguida, chamar a atenção dos administradores para as contas que se desviam de seu padrão habitual.
A Cloudflare afirma que saber quem usa a inteligência artificial e o que essa pessoa faz representa um desafio organizacional e de segurança, citando um relatório da Universidade Stanford segundo o qual 59% das organizações consideraram as lacunas de conhecimento o maior obstáculo à governança responsável da inteligência artificial. A empresa entende que resolver o problema exige uma identidade autenticada associada a cada solicitação, além de uma linha de base que mostre como é o uso normal de cada identidade.
Identidade autenticada para cada solicitação
O AI Gateway funciona como um ponto central de controle para o uso de inteligência artificial, pois os aplicativos e as ferramentas de desenvolvedor encaminham as solicitações a ele em vez de se conectarem diretamente aos modelos da OpenAI, Anthropic, Google e Workers AI. Ferramentas como Claude Code, Codex e GitHub Copilot também podem ser encaminhadas pelo gateway, ficando sujeitas às mesmas visibilidade e controles.
Com a integração ao Cloudflare Access, o cliente pode colocar um domínio personalizado diante do gateway e protegê-lo como faria com qualquer outro aplicativo. Isso permite:
- Autenticação por meio de um provedor de identidade compatível com SAML, como Okta ou Entra, em vez de criar e distribuir chaves de API da Cloudflare.
- Definição de políticas de acesso ao gateway com base nos usuários autorizados.
- Uso de um nome de host limpo, como ai.example.com, sem incluir o identificador da conta ou do gateway no link.
- Adição do identificador de usuário autenticado pelo Access aos metadados da solicitação, no campo cf.user_id, permitindo filtrar registros, análises e gastos de acordo com a pessoa que enviou a solicitação.
Em conjunto com os limites de gastos, é possível criar um orçamento separado para cada usuário e, depois, interromper as solicitações ou direcioná-las para um modelo de menor custo quando o limite for atingido. A Cloudflare afirma que, no futuro, os grupos do provedor de identidade poderão definir limites de gastos ou modelos disponíveis para cada grupo, como conceder à equipe de aprendizado de máquina acesso aos modelos avançados ou impor um teto de gastos à equipe de suporte.
Max Baumgarten, engenheiro sênior de segurança da Flexport, afirmou que chaves de API compartilhadas dificultam saber qual usuário está utilizando o serviço de inteligência artificial e aplicar regras de acesso aos funcionários. Ele acrescentou que colocar o Cloudflare Access diante do AI Gateway associa cada solicitação a uma identidade autenticada e permite usar as políticas de identidade existentes sem criar um sistema de autenticação separado para cada cliente.
O User Insights cria uma linha de base para cada conta
O User Insights aparece dentro do AI Gateway e lê o tráfego já existente sem exigir configuração adicional. O recurso acompanha o custo e as fontes de desperdício, como baixas taxas de utilização do cache ou janelas de contexto grandes, mas também se concentra em uma pergunta diferente: a conta está se comportando normalmente em relação ao seu próprio histórico?
O recurso trata pessoas e agentes como entidades com padrões diferentes. Um agente pode resumir tíquetes a cada três horas de maneira regular, enquanto uma pessoa envia solicitações variadas e realiza sessões longas ao lidar com problemas complexos. Por isso, o User Insights compara a sessão com o histórico da própria conta, e não com um limite uniforme para todos os usuários.
O mecanismo de monitoramento começa registrando o custo das sessões nos últimos 30 dias e, em seguida, usa o percentil 95 (p95) do custo das sessões da conta. Uma sessão que ultrapasse o dobro dessa linha de base é considerada uma forte candidata a comportamento anômalo. Ao mesmo tempo, a Cloudflare usa um limite no nível da conta no percentil 99 (p99), com um valor mínimo em dólares, para impedir que um pequeno aumento de um usuário com poucos gastos gere um alerta.
Detecção de desvios sem tomada de decisão automática
O User Insights reúne as contas que romperam seu padrão habitual em um resumo de comportamento anômalo, excluindo aumentos que pareçam naturais para um usuário intenso ou de baixo valor financeiro. O desvio pode indicar que uma conta de serviço começou a executar sessões mais caras ou que um usuário aumentou muito seus gastos e continuou assim por vários dias.
O recurso não determina a intenção do usuário nem o bloqueia automaticamente; ele apenas apresenta as contas incomuns ao administrador para iniciar uma investigação. O resultado pode ser um incidente de segurança ou simplesmente a orientação do usuário para uma abordagem mais eficiente, como evitar enviar um repositório de software inteiro quando basta enviar um trecho dele. A Cloudflare destaca que a exibição de gastos e desvios funciona sem o Cloudflare Access, mas associar a solicitação a uma identidade real transforma o identificador anônimo da conta em um nome sobre o qual é possível agir.
Disponibilidade e próximos passos
O User Insights está disponível a partir de hoje no painel de controle para todos os clientes do AI Gateway sem custo adicional, desde que exista tráfego passando pelo gateway. Já o Identity-aware AI Gateway com o Cloudflare Access está atualmente disponível em versão beta aberta. A Cloudflare recomenda começar no modo de monitoramento para aprender as linhas de base antes de impor políticas ou limites de uso.
A empresa também está desenvolvendo um roteamento inteligente baseado no tipo de tarefa, que seleciona o modelo de menor custo capaz de alcançar o resultado exigido, além da classificação das solicitações em categorias como programação e redação. Segundo a empresa, essas classificações podem ajudar as organizações a entender a finalidade do uso da inteligência artificial e distinguir entre uso comercial e pessoal, mas o roteamento inteligente e a classificação ainda estão em desenvolvimento e não foram anunciados como recursos disponíveis na versão atual.