Cloudflare a annoncé que l’Identity-aware AI Gateway est disponible en version bêta ouverte grâce à son intégration avec Cloudflare Access, tandis que la fonctionnalité User Insights est désormais généralement disponible pour tous les clients d’AI Gateway sans coût supplémentaire. Les deux fonctionnalités exploitent le trafic des requêtes qui passent par la passerelle pour établir un profil comportemental de chaque personne ou agent logiciel, puis attirer l’attention des administrateurs sur les comptes qui s’écartent de leur comportement habituel.
Cloudflare affirme que savoir qui utilise l’intelligence artificielle et ce qu’il en fait constitue un défi organisationnel et de sécurité, en citant un rapport de l’université Stanford selon lequel 59 % des organisations considéraient les lacunes en matière de connaissances comme le principal obstacle à une gouvernance responsable de l’intelligence artificielle. L’entreprise estime que résoudre ce problème nécessite une identité vérifiée associée à chaque requête, ainsi qu’une base de référence décrivant la forme normale de l’utilisation pour chaque identité.
Une identité vérifiée pour chaque requête
AI Gateway agit comme un point de contrôle centralisé pour l’utilisation de l’intelligence artificielle : les applications et les outils de développement lui transmettent les requêtes au lieu de se connecter directement aux modèles d’OpenAI, d’Anthropic, de Google et de Workers AI. Des outils tels que Claude Code, Codex et GitHub Copilot peuvent également être acheminés via la passerelle afin de bénéficier de la même visibilité et des mêmes contrôles.
Avec l’intégration de Cloudflare Access, le client peut placer un domaine personnalisé devant la passerelle et le protéger comme il le ferait pour toute autre application. Cela permet :
- l’authentification via un fournisseur d’identité prenant en charge SAML, comme Okta ou Entra, au lieu de créer et de distribuer des clés d’API Cloudflare ;
- la définition de politiques d’accès à la passerelle en fonction des utilisateurs autorisés ;
- l’utilisation d’un nom d’hôte clair comme ai.example.com, sans inclure l’identifiant du compte ou de la passerelle dans l’URL ;
- l’ajout de l’identifiant de l’utilisateur Access vérifié aux métadonnées de la requête sous le champ cf.user_id, ce qui permet de trier les journaux, les analyses et les dépenses selon la personne ayant envoyé la requête.
Associées à des limites de dépenses, ces fonctionnalités permettent de créer un budget indépendant pour chaque utilisateur, puis de bloquer les requêtes ou de les rediriger vers un modèle moins coûteux lorsque la limite est atteinte. Cloudflare affirme que les groupes du fournisseur d’identité pourront à l’avenir définir les limites de dépenses ou les modèles disponibles pour chaque groupe, par exemple en accordant à l’équipe de machine learning l’accès aux modèles avancés ou en imposant un plafond de dépenses à l’équipe d’assistance.
Max Baumgarten, ingénieur principal en sécurité chez Flexport, a déclaré que les clés d’API partagées rendent difficile l’identification de l’utilisateur d’un service d’intelligence artificielle et l’application de règles d’accès pour les employés. Il a ajouté que placer Cloudflare Access devant AI Gateway associe chaque requête à une identité vérifiée et permet d’utiliser les politiques d’identité existantes sans créer un système d’authentification distinct pour chaque client.
User Insights établit une base de référence pour chaque compte
User Insights apparaît dans AI Gateway et analyse le trafic déjà présent sans nécessiter de configuration supplémentaire. La fonctionnalité suit les coûts et les sources de gaspillage, comme les faibles taux d’utilisation du cache ou la taille excessive des fenêtres de contexte, mais elle se concentre également sur une autre question : le compte se comporte-t-il normalement par rapport à son propre historique ?
La fonctionnalité traite les personnes et les agents en considérant que chacun possède un modèle différent. Un agent peut résumer régulièrement des tickets toutes les trois heures, tandis qu’une personne peut envoyer des requêtes variées et mener de longues sessions lors du traitement de problèmes complexes. User Insights compare donc la session à l’historique du compte lui-même, plutôt qu’à un seuil uniforme pour tous les utilisateurs.
Le mécanisme de surveillance commence par enregistrer le coût des sessions au cours des 30 derniers jours, puis utilise le 95e percentile (p95) du coût des sessions du compte. Une session qui dépasse le double de cette base de référence constitue un indicateur fort de comportement anormal. Parallèlement, Cloudflare utilise un plafond au niveau du compte correspondant au 99e percentile (p99), avec un seuil minimal en dollars, afin qu’une très faible hausse chez un utilisateur dépensant peu ne déclenche pas d’alerte.
Surveiller les écarts sans prendre de décision automatiquement
User Insights regroupe dans un résumé des comportements anormaux les comptes qui ont rompu leur modèle habituel, tout en excluant les hausses qui semblent normales pour un utilisateur intensif ou faibles sur le plan financier. Un écart peut indiquer qu’un compte de service a commencé à exécuter des sessions plus coûteuses, ou qu’un utilisateur a fortement augmenté ses dépenses et a maintenu ce niveau pendant plusieurs jours.
La fonctionnalité ne détermine pas l’intention de l’utilisateur et ne le bloque pas automatiquement ; elle présente plutôt les comptes inhabituels à l’administrateur afin qu’il ouvre une enquête. Il peut s’agir d’un incident de sécurité, ou simplement de recommander à l’utilisateur une méthode plus efficace, comme éviter d’envoyer un dépôt logiciel complet lorsqu’un extrait suffit. Cloudflare précise que l’affichage des dépenses et des écarts fonctionne sans Cloudflare Access, mais que l’association de la requête à une véritable identité transforme l’identifiant anonyme du compte en un nom sur lequel il est possible d’agir.
Disponibilité et prochaines étapes
User Insights est désormais disponible dans le tableau de bord pour chaque client d’AI Gateway sans coût supplémentaire, à condition que du trafic passe par la passerelle. L’Identity-aware AI Gateway avec Cloudflare Access est actuellement disponible en version bêta ouverte. Cloudflare recommande de commencer en mode surveillance afin d’établir les bases de référence avant d’imposer des politiques ou des limites d’utilisation.
L’entreprise travaille également au développement d’un routage intelligent fondé sur le type de tâche, qui sélectionnera le modèle le moins coûteux permettant d’obtenir le résultat requis, ainsi que sur la classification des requêtes en catégories telles que la programmation et la rédaction. Elle affirme que ces classifications pourraient aider les organisations à comprendre la finalité de l’utilisation de l’intelligence artificielle et à distinguer les usages commerciaux des usages personnels, mais le routage intelligent et la classification sont encore en cours de développement et n’ont pas été annoncés comme des fonctionnalités disponibles dans la version actuelle.