Microsoft, kurumsal yapay zeka aracılarıyla (AI Agents) ilişkili artan tehditlerden işletmeleri korumak amacıyla bir dizi güvenlik özelliği tanıttı. Bu adım, büyük teknoloji şirketlerinin gelişmiş modellere yaklaşımında dikkat çekici bir değişimi yansıtıyor.
Guardian Agents ile aracıların izlenmesi
Yeni güvenlik eklemelerinin en önemlisi, şirketlerin kullandığı yapay zeka aracılarını izlemek ve takip etmek için tasarlanan Guardian Agents adlı özelliktir. Bu özellik, geçtiğimiz Haziran ayında başlatılan ve başlangıçta güçlü saldırı modelleriyle başa çıkmak için tasarlanan Project Perception projesinin bir uzantısıdır. Proje, saldırı ve savunma ekipleri ile düzeltme ekiplerini içeren farklı katmanları kapsamaktadır.
Ürünün orijinal tasarımı dış saldırganlarla mücadeleye odaklansa da, CEO Satya Nadella yakın zamanda gerçek tehlikenin içeriden gelebileceği konusunda uyardı. Nadella, kurumların dağıttığı ve ücretini ödediği aracıları, kötü niyetli çalışanlara veya içeriden gelen tehditlere (Insider Threats) benzetti.
Yapay zeka tedariki ile kontrolü arasında ayrım yapma gerekliliği
Nadella ve güvenlik birimi sorumlusu Vasu Jakkal (hayiti galot) dahil olmak üzere Microsoft'un üst yönetimi, geliştiricisi kim olursa olsun sınır modellerine tamamen güvenilemeyeceğini vurguladı. Bu güvensizlik, modellerin doğası gereği kötü niyetli olmalarından değil, öngörülemez olmalarından ve şirketlerin düzenleyici standartlarını ve hükümlerini her zaman dikkate almadan kendilerine verilen görevleri yerine getirmeye çalışmalarından kaynaklanmaktadır; ayrıca hassas verilere ve sistemlere erişim konusunda geniş yetkilere sahiptirler.
Şirketin yeni stratejisi, yapay zeka modeli sağlayıcıları ile izleme ve kontrol sistemlerinin birbirinden ayrılması gerektiğini, böylece güvenlik sorumluluğunun yalnızca geliştiricilerin garantileriyle sınırlı kalmaması gerektiğini savunmaktadır.
Pratikte neler değişiyor?
Yetkisiz aracıların tespiti: Microsoft, çalışanların iş ortamına getirdiği Claude Code, Codex ve OpenClaw gibi 60'a kadar aracı türünü tanımlamak için Microsoft Defender ürününe aracı tespit özelliğini ekledi.
Erişim ve yetkilerin kısıtlanması: Aracıların veri ve sistemlere erişimini sınırlayan mekanizmalar getirildi ve yetkiler görevin doğasına göre dinamik olarak ayarlandı.
İnsan onayı: Aracının potansiyel risk içeren kararlar alması durumunda doğrudan insan onayının alınması zorunlu kılındı.
Bu yaklaşım, daha geniş endüstriyel hareketlerle uyumludur. Microsoft, NVIDIA'nın açık aracı güvenliği platformuna kurucu üye olarak katılmıştır. Bu platform, aracıların güvenli ortamlarda izole edilmesine ve gerektiğinde durdurulabilmelerini sağlamak için donanım üzerinden izlenmelerine dayanmaktadır.