Microsoft, kurumsal ortamlarda yapay zeka ajanlarının konuşlandırılmasıyla ilişkili artan güvenlik riskleri konusunda uyarılarda bulunarak, gelişmiş modellerin geliştiricisi kim olursa olsun tamamen güvenilemeyeceğini vurguladı. Bu uyarılar, kurumların bu sistemlere hassas verilere erişim ve kritik operasyonel süreçleri yürütme konusunda geniş yetkiler vermesiyle, veri güvenliğini "iç tehdit" fenomenine benzer risklerle karşı karşıya bırakması nedeniyle geldi.
Ajan davranışlarının yeni araçlarla izlenmesi
Bu zorluklara yanıt olarak Microsoft, yapay zeka ajanlarını izlemek ve çalışmalarını güvence altına almak için özel olarak tasarlanmış "Guardian Agents" özelliğini duyurdu. Bu adım, yapay zeka destekli siber güvenliği güçlendirmek amacıyla geçen Haziran ayında başlatılan "Project Perception" projesinin bir parçasıdır. Şirket ayrıca, "Microsoft Defender" hizmetine, çalışanların kullandığı Claude Code, Codex ve OpenClaw gibi 60'a kadar yapay zeka ajanı türünü tespit etmeye olanak tanıyan yeni güncellemeler ekledi.
Gelişmiş modellere neden güvenilemez?
- Davranış tahmini zorluğu: Modeller, kurum içi kurallara kesin olarak uymak için değil, görevleri tamamlamak için eğitilirler.
- Yetki kapsamı: Ajanlar, araçlara ve verilere erişim konusunda geniş yeteneklere sahiptir, bu da herhangi bir hatayı kurumun güvenliği için bir tehdit haline getirir.
- Denetim bağımsızlığı: Microsoft, modelleri geliştiren taraf ile davranışlarını izleyen ve risklerini değerlendiren tarafın birbirinden ayrılması gerektiğini vurgulamaktadır.
Kontrol ve insan onayı
Şirketin sunduğu yeni araçlar, ajanların sistemlere ve hassas verilere erişimini kısıtlama ve yetkilerini kendilerine verilen görevlerin doğasına göre düzenleme imkanı içeriyor. Bu araçlar, sistem iş akışı için potansiyel riskler içeren kararlar veya davranışlar tespit ettiğinde anlık insan onayı talep etme mekanizmasını desteklemektedir.
Pratikte neler değişiyor?
Pratik değişim, bilgi güvenliği stratejisinin, model geliştirici şirketlerden bağımsız mekanizmalar aracılığıyla yapay zekayı kurum içinde izlemeye doğru evrilmesiyle somutlaşmaktadır. Bu bağlamda Microsoft, Nvidia tarafından başlatılan ve ajanları güvenli ortamlarda izole etmeyi ve davranışlarını donanım aracılığıyla izlemeyi amaçlayan "Open Agent Safety Platform"a kurucu üye olarak katıldı.