Kurumsal yapay zekâ kullanımının güvenliğine odaklanan girişim Pluto Security, gizlilik aşamasından çıktıktan sonra 42 milyon dolar yatırım aldı. Bu gelişme, şirketlerin çalışanların yeterli güvenlik incelemesi olmadan oluşturduğu veya kullandığı araçlar ve uygulamalarla ilgili endişelerinin arttığı bir dönemde yaşandı.
İcra kurulu başkanı ve kurucu ortağı Shahar Bahat, yeni bir yapay zekâ aracının kullanıma sunulmasından yalnızca iki saat sonra şirket ortamında ortaya çıkabileceğini söylüyor. Pluto’nun verilerine göre müşterilerinde tespit ettiği risklerin yaklaşık %60’ı, “vibe coding” olarak bilinen yöntem kullanılarak geliştirici olmayan kişiler tarafından oluşturulan araçlarla bağlantılı. Finans departmanları ilk sırada yer alırken onları pazarlama ve hukuk departmanları izliyor; geliştiriciler ise dördüncü sırada bulunuyor.
İncelenmeyen uygulamaların ve ajanların riskleri
Pluto’nun araçları, Fortune 500 kapsamındaki halka açık bir şirketin finans departmanındaki bir çalışanın müşteri verilerini ve müşteri kayıp oranlarını yönetmek için oluşturduğu, ancak internete açık bırakılan bir uygulamayı tespit etti. Bahat, şirketin gerçekleştirdiği kavram kanıtlama testlerinin kötü amaçlı unsurlar içermeden tamamlanmadığını, bunlar arasında test sırasında aktif saldırılar gerçekleştiren uzantı paketleri ve becerilerin de bulunduğunu söylüyor.
Pluto, uygulamaların oluşturulma ve kullanılma biçiminin hızla değiştiği bir ortamı izlemek için geleneksel güvenlik araçlarının tek başına yeterli olmadığı görüşünde. Şirket yalnızca kullanıcı davranışına odaklanmak yerine ajanların davranışlarını ve gerçekleştirdikleri işlemleri anlık olarak izlemek istiyor.
Araçların izlenmesi ve yürütme sırasında müdahale
Pluto’nun yazılımı, çalışanların kullandığı yapay zekâ araçlarının yanı sıra bunlarla bağlantılı becerileri, uzantıları, MCP sunucularını ve diğer bileşenleri; ayrıca çalışanların oluşturduğu uygulamaları ve ajanları izliyor. Şirket, sistemin tehlikeli bileşenleri belirleyebildiğini, ajanların şüpheli faaliyetlerini tespit edebildiğini ve çalışanların araçları tamamen kullanmasını veya geliştirmesini engellemeden güvenlik politikaları uygulayabildiğini söylüyor.
Sistem, cihaz koruma ve yönetim platformlarına bağlanıyor ve sensörleri doğrudan cihazlara veya bu platformlar üzerinden dağıtabiliyor. Ayrıca istemleri, komutları, devam eden işlemleri, izinleri ve önceki faaliyet kayıtlarını içeren verileri topluyor; ajanın gerçekleştirmeye çalıştığı işlemi değerlendirmeye yardımcı olmak için uç noktalarda hafif modeller kullanıyor.
Açıklanan başlıca yeteneklerinden biri, ajanın çalışması sırasında müdahale edebilmesi. Örneğin ajan, kullanıcının amaçladığından daha geniş izinler elde etmeye çalışırsa sistem işlemi durdurabiliyor veya oturuma ajandan onay almasını isteyen talimatlar ekleyebiliyor.
Yatırım ve ticari büyüme
Yatırımın 8,5 milyon dolarlık tohum turunu TLV Partners yönetti; Armis siber güvenlik şirketinin kurucuları da tura katıldı. 34 milyon dolarlık Series A turunu ise Jump Capital yönetti. Tura, Check Point kurucu ortağı Shlomo Kramer’ın girişim sermayesi şirketi Skinos ve diğer melek yatırımcılar da katıldı.
Pluto ürünlerini nisan ayında satmaya başladı ve yıllık yinelenen gelirinin 2 milyon doları aştığını söylüyor. Şirketin aralarında Oscar Health, Workato, Sixt ve AlphaSense’in de bulunduğu 30’dan fazla kurumsal müşterisi bulunuyor. Şirketin Amerika Birleşik Devletleri ve İsrail’de 40 çalışanı var ve yatırımı ürün geliştirme, güvenlik araştırmalarını genişletme ve Amerika Birleşik Devletleri’ndeki varlığını güçlendirme amacıyla kullanmayı planlıyor.
Bu haber neden önemli?
Buradaki fiilî değişim, güvenlik izleme noktasının çalışan hesapları ve geleneksel uygulamalardan, onların adına hareket edebilecek araçlara, ajanlara ve bileşenlere kayması. Ancak aktarılan rakamlar şirketin açıklamalarına dayanıyor. Kaynak ayrıca riskleri ölçme metodolojisi veya müşteri sonuçları hakkında bağımsız ayrıntılar sunmuyor ve sistemin müdahalesinin sınırlarını ya da yanlış alarm oranını kesin olarak belirtmiyor. Bu nedenle bu kategorinin denetim ile çalışanlara yapay zekâyı kullanma özgürlüğü tanıma arasında nasıl denge kurabileceği hâlâ açık bir soru olarak kalıyor.