Cloudflare, Identity-aware AI Gateway'in Cloudflare Access entegrasyonu aracılığıyla açık beta sürümünde kullanılabilir olduğunu ve User Insights özelliğinin tüm AI Gateway müşterileri için ek ücret olmadan genel kullanıma sunulduğunu açıkladı. Her iki özellik de ağ geçidinden geçen istek trafiğinden yararlanarak her kişi veya yazılım aracısı için davranışsal bir profil oluşturuyor ve ardından yöneticilerin normal düzeninden sapan hesaplara dikkatini çekiyor.
Cloudflare, yapay zekâyı kimin kullandığını ve ne yaptığını bilmenin kurumsal ve güvenlik açısından bir zorluk oluşturduğunu söylüyor. Şirket, Stanford Üniversitesi'nin bir raporuna atıfta bulunarak kurumların %59'unun bilgi eksikliklerini sorumlu yapay zekâ yönetişiminin önündeki en büyük engel olarak gördüğünü belirtiyor. Şirkete göre sorunun çözümü, her istekle ilişkilendirilmiş doğrulanmış bir kimliğin yanı sıra her kimlik için normal kullanımın nasıl göründüğünü açıklayan bir temel çizgi gerektiriyor.
Her istek için doğrulanmış kimlik
AI Gateway, yapay zekâ kullanımına yönelik merkezi bir kontrol noktası olarak çalışıyor. Uygulamalar ve geliştirici araçları, OpenAI, Anthropic, Google ve Workers AI modellerine doğrudan bağlanmak yerine isteklerini bu ağ geçidine iletiyor. Claude Code, Codex ve GitHub Copilot gibi araçlar da ağ geçidi üzerinden yönlendirilebiliyor ve böylece aynı görünürlük ile kontrollere tabi tutuluyor.
Cloudflare Access ile entegre edildiğinde müşteri, ağ geçidinin önüne özel bir alan adı yerleştirerek bu alanı diğer uygulamalarda olduğu gibi koruyabiliyor. Bu şunları sağlıyor:
- Cloudflare API anahtarları oluşturup dağıtmak yerine Okta veya Entra gibi SAML destekleyen bir kimlik sağlayıcı üzerinden kimlik doğrulama.
- Ağ geçidine erişim politikalarını izin verilen kullanıcılara göre belirleme.
- Bağlantıda hesap veya ağ geçidi tanımlayıcısını göstermeden ai.example.com gibi temiz bir ana makine adı kullanma.
- Doğrulanmış Access kullanıcı kimliğini cf.user_id alanı altında istek meta verilerine ekleme; böylece kayıtlar, analizler ve harcamalar isteği gönderen kişiye göre filtrelenebiliyor.
Harcama limitleriyle birlikte kullanıldığında her kullanıcı için ayrı bir bütçe oluşturulabiliyor; limite ulaşıldığında istekler durdurulabiliyor veya daha düşük maliyetli bir modele yönlendirilebiliyor. Cloudflare, gelecekte kimlik sağlayıcı gruplarının her grup için harcama limitlerini veya kullanılabilir modelleri belirleyebileceğini söylüyor. Örneğin makine öğrenimi ekibine gelişmiş modellere erişim verilebilir veya destek ekibine harcama sınırı uygulanabilir.
Flexport'ta kıdemli güvenlik mühendisi olan Max Baumgarten, paylaşılan API anahtarlarının yapay zekâ hizmetini hangi kullanıcının kullandığını bilmeyi ve çalışan erişim kurallarını uygulamayı zorlaştırdığını söyledi. Cloudflare Access'in AI Gateway'in önüne konulmasının her isteği doğrulanmış bir kimliğe bağladığını ve her müşteri için ayrı bir kimlik doğrulama sistemi oluşturmadan mevcut kimlik politikalarının kullanılmasına olanak tanıdığını ekledi.
User Insights her hesap için temel çizgi oluşturuyor
User Insights, AI Gateway içinde görüntüleniyor ve ek kurulum gerektirmeden mevcut trafiği okuyor. Özellik, önbellekten yararlanma oranlarının düşük olması veya bağlam pencerelerinin büyük olması gibi maliyet ve israf kaynaklarını izliyor; ancak farklı bir soruya da odaklanıyor: Hesap, kendi geçmişine göre normal bir şekilde mi davranıyor?
Özellik, kişi ve aracılara her birinin farklı bir kullanım modeli olduğu varsayımıyla yaklaşıyor. Bir aracı her üç saatte bir düzenli olarak destek taleplerini özetlerken, bir kişi farklılık gösteren istekler gönderebilir ve karmaşık sorunları işlerken uzun oturumlar gerçekleştirebilir. Bu nedenle User Insights, tüm kullanıcılar için ortak bir eşik yerine oturumu hesabın kendi geçmişiyle karşılaştırıyor.
İzleme mekanizması, son 30 gün içindeki oturum maliyetlerini kaydederek başlıyor ve hesabın oturum maliyetleri için 95. yüzdelik dilimi (p95) kullanıyor. Bu temel çizginin iki katını aşan bir oturum, anormal davranış için güçlü bir aday olarak değerlendiriliyor. Aynı zamanda Cloudflare, bir kullanıcının düşük harcama düzeyindeki çok küçük bir artışın uyarı oluşturmasını önlemek için hesap düzeyinde 99. yüzdelik dilime (p99) dayalı bir tavan ve asgari bir dolar eşiği kullanıyor.
Otomatik karar vermeden sapmaları izleme
User Insights, olağan düzenini bozan hesapları anormal davranış özetinde bir araya getiriyor ve yoğun kullanım sergileyen veya mali değeri düşük bir kullanıcı için normal görünen artışları hariç tutuyor. Sapma, daha maliyetli oturumlar çalıştırmaya başlayan bir hizmet hesabına ya da harcaması büyük ölçüde artıp bunu birkaç gün sürdüren bir kullanıcıya işaret edebilir.
Özellik, kullanıcının niyetini belirlemiyor veya kullanıcıyı otomatik olarak engellemiyor; bunun yerine olağandışı hesapları yöneticinin inceleme başlatabilmesi için gösteriyor. Sonuç bir güvenlik olayı olabilir veya kullanıcıyı, tam bir yazılım deposunu göndermek yerine yalnızca bir bölümünü göndermenin yeterli olması gibi daha verimli bir yönteme yönlendirmekle sınırlı kalabilir. Cloudflare, harcama ve sapmaların gösteriminin Cloudflare Access olmadan da çalıştığını; ancak isteğin gerçek bir kimliğe bağlanmasının anonim hesap tanımlayıcısını hakkında işlem yapılabilecek bir ada dönüştürdüğünü vurguluyor.
Kullanılabilirlik ve sonraki adımlar
User Insights bugün, ağ geçidinden geçen trafik bulunması koşuluyla, tüm AI Gateway müşterileri için kontrol panelinde ek ücret olmadan kullanılabilir durumda. Cloudflare Access ile Identity-aware AI Gateway ise şu anda açık beta sürümünde sunuluyor. Cloudflare, politikalar veya kullanım limitleri uygulamadan önce temel çizgileri öğrenmek için izleme modunda başlanmasını öneriyor.
Şirket ayrıca görevin türüne dayalı akıllı yönlendirme üzerinde çalışıyor. Bu özellik, istenen sonucu sağlayan en düşük maliyetli modeli seçmeyi ve istekleri programlama ile yazma gibi kategorilere ayırmayı hedefliyor. Şirket, bu sınıflandırmaların kurumların yapay zekâ kullanım amacını anlamasına ve ticari kullanımla kişisel kullanım arasında ayrım yapmasına yardımcı olabileceğini söylüyor. Ancak akıllı yönlendirme ve sınıflandırma hâlâ geliştirme aşamasında ve şirket bunları mevcut sürümde kullanılabilir özellikler olarak duyurmadı.