Microsoft Foundry Control Plane, kurumsal ortamlarda yapay zekâ uygulamalarını ve ajanlarını yönetmek, çalıştırmak ve yönetişimini sağlamak için bir katman sunuyor. Platform, ajanların çalışmasını izlemeye, güvenlik kontrollerini ve politikaları uygulamaya, performansı değerlendirmeye ve filoları oluşturma aşamasından üretime kadar yönetmeye olanak tanıyarak geliştiricileri ve yapay zekâ mühendislerini hedefliyor.
Platform, çıkarım işlemleri gerçekleştiren, araçları çağıran ve verilere dayanarak eylemlerde bulunan ajan sistemleri için tasarlandı. Ajanın çalışmasını uçtan uca izleyebilir; buna girdiler, çıkarım adımları, araç çağrıları, çıktılar, yanıt süresi ve maliyet dahildir. Ayrıca üretim ortamındaki trafik için üretim öncesi değerlendirmeleri ve sürekli değerlendirmeyi destekleyerek göreve bağlılığı, araç çağırma doğruluğunu, güvenliği ve kaliteyi ölçer.
Sürekli izleme ve çalışma zamanı kontrolleri
Foundry Control Plane, değerlendirmeler için eşikler belirlemeye ve gerilemeler ortaya çıktığında uyarılar başlatmaya olanak tanır. Bu, ajanların sayısı arttıkça ekiplerin aralıklı testlerden sürekli gözetime geçmesine yardımcı olur. Platform; göreve bağlılık, araç çağırma doğruluğu, niyetin anlaşılması, kaynaklara dayalı olma ve hassas verilere maruz kalma dahil olmak üzere ajan sistemleri için özel değerlendirme araçları sunar.
Yürütme düzeyinde kullanıcı girdilerinde, araç çağrılarında ve bunların yanıtlarında ve çıktılarda müdahale noktaları yapılandırılabilir. Bu kontroller; kişisel tanımlanabilir bilgilerin, dolaylı talimat enjeksiyonunun, ajanın görevden sapmasının, yasaklanmış eylemlerin ve içerik risklerinin tespit edilmesini veya engellenmesini hedefler. Ayrıca ajan eylemi gerçekleştirmeden önce, çoklu bağlamlar üzerinden manipülasyon girişimleri de dahil olmak üzere doğrudan ve dolaylı enjeksiyon taleplerini ele alır.
İzleme, güvenlik ve kimlik
Platform, ajan işlemlerini çıkarımdan araç çağrılarına kadar izlemek için OpenTelemetry standartlarına dayanır. Sapmaları, hataları ve performans darboğazlarını teşhis etmek amacıyla Azure Monitor ve Application Insights ile de entegre olabilir. Ayrıca dağıtımdan önce düşmanca saldırıları simüle etmek ve ajanları güvenlik açıklarına karşı incelemek için AI Red Teaming Agent'ı içerir; güvenlik açıklarını bir araya getirir ve hazırlık raporları yayımlar.
Microsoft Entra Agent ID, her ajana oluşturma aşamasından itibaren kalıcı bir kimlik verir. Böylece politika tabanlı erişim kontrolleri, koşullu izinler ve yaşam döngüsü yönetimi uygulanabilir. Korumayı aşma girişimleri ve tehdit sinyalleri, araştırma ve müdahale için Microsoft Defender'da gösterilebilir. Microsoft Purview'daki veri güvenliği ve uyumluluk politikaları da veri kaybı önleme politikaları, denetim ve istemlerle yanıtların saklanması dahil olmak üzere yapay zekâ etkileşimlerine uygulanır.
Filo yönetimi ve harici sistemlerle entegrasyon
Platform; güvenlik, politika, maliyet ve performansla ilgili uyarıları görüntülemek için birleşik bir arayüz sunar ve ajan işlemlerini, başarı oranlarını ve harcamaları gerçek zamanlı olarak izler. Ekipler projeler üzerinden ajanları, modelleri ve araçları yönetebilir; uyumluluk durumunu, engellenen davranışları ve hafta hafta kullanım eğilimlerini izleyebilir.
Foundry Control Plane yalnızca Microsoft Foundry'de oluşturulan ajanlarla sınırlı değildir; Microsoft'un birinci taraf sistemlerindeki ve harici sistemlerdeki ajanları da destekler. Foundry dışında çalışan ajanlar, güvenli yönlendirme sağlamak, politikaları uygulamak ve ölçüm verilerini toplamak için Azure API Management'ı kullanan yapay zekâ ağ geçidi üzerinden kaydedilebilir. Harici ajanlar OpenTelemetry ile uyumlu izler de gönderebilir; bu da farklı bulut ortamları ve platformlar arasında birleşik görünürlük sağlar.
Fiyatlandırma ve Agent 365'ten farkı
Foundry Control Plane'in fiyatlandırması kullanıma dayanır ve izleme hizmetleri, güvenlik kontrolleri ve Microsoft Security hizmetleriyle ilişkilidir. Yapay zekâ değerlendirmeleri giriş ve çıkış belirteçlerine göre ücretlendirilirken izleme ve iz sürme Azure günlükleri olarak, güvenlik kontrolleri ise metin veya görüntü kaydı başına ücretlendirilir.
Microsoft, Foundry Control Plane'in geliştiricilere ve yapay zekâ mühendislerine yönelik olduğunu; derin izleme, değerlendirme, çalışma zamanı kontrolleri ve filo yönetimine odaklandığını belirtiyor. Agent 365 ise bilgi teknolojileri ve güvenlik yöneticilerine yönelik olup kurumsal ölçekte kayıt, erişim kontrolü, kimlik yönetimi ve politikalara odaklanıyor. Her iki ürün de Microsoft Entra, Microsoft Defender ve Microsoft Purview'ın güvenlik özelliklerine dayanıyor.