Meta, sistemlerinin ve yapay zeka teknolojilerinin güvenliğini artırma çabaları kapsamında, akıllı kişisel asistanı Muse için güvenlik açığı ödülleri şeklinde yaklaşık 1,2 milyon ABD doları ödediğini duyurdu. Bu ödemeler arasında, ürün resmi olarak piyasaya sürülmeden önce kritik bir açığın keşfedilmesi nedeniyle verilen 300 bin dolarlık büyük ödül de yer alıyor.
Muse asistanı, e-posta, takvim ve mesajlaşma platformları gibi kullanıcının çeşitli hesapları adına çalışan kişisel bir yapay zeka ajanı olarak görev yapar ve her kullanıcıya bağımsız bir sanal makine (VM) tahsis edilir. Açık ödül programı, özellikle geçtiğimiz Nisan ayında başlamış, ardından 8 Eylül'deki asistanın resmi lansmanı ile eş zamanlı olarak genel bir programa dönüşmüştür. Şirket, 64'ü doğrulanıp kabul edilen toplam 630'dan fazla güvenlik raporu almıştır.
Öne Çıkan Güvenlik Açıkları ve Ödüllerin Detayları
300 bin dolarlık büyük ödül, asistanın lansmanından dört ay önce erken iç test aşamasında bir açık keşfeden bir güvenlik araştırmacısına verildi; bu açık, Meta çalışanları tarafından kullanılan deneysel sanal makinelerdeki konuşmalara ve jetonlara (tokens) erişim imkanı sağlıyordu.
Meta'dan David Singleton, sorunun, kimlik doğrulama kontrolünün yerel bir HTTPS proxy'si tarafından eklenen bir başlığı (header), isteğin güvenilir bir kaynaktan geldiğine dair kesin bir kanıt olarak işlemesi sonucunda ortaya çıktığını açıkladı. Sistem taşıma işlemi sırasında ortam ikinci bir proxy katmanı kazandı ve bu da harici isteklerin aynı güven başlığını taşımasına olanak tanıdı; bu durum şirketi hizmeti geçici olarak durdurmaya, hatayı düzeltmeye ve yerel cihazlara mutlak güvenilir kaynaklar olarak güvenmeyi bırakmaya itti.
Şirket ayrıca, asistanın bir içeriği özetlemesi istendiğinde, asistanın tarama aracına ait durum mesajlarını taklit eden kötü amaçlı bir web sayfasıyla ilgili bir güvenlik raporu için 90 bin dolar ödedi. Bu durum, akıllı ajanın engellenmesi gereken eylemleri gerçekleştirmesine neden olmuştu; Meta bu sorunu, tespit sinyalleri ekleyerek ve şüpheli araç çıktılarıyla ilgili işlem yapma yöntemini iyileştirerek çözdü. Bir başka 90 bin dolarlık rapor ise, koordineli bir saldırının parçası olarak asistanın e-posta filtrelerini aşmak için belirli bir formatın kullanılmasıyla ilgiliydi.
Uygulama Hataları ve Alt Güvenlik Açıkları
Liste ayrıca, bir Android uygulamasındaki, kötü amaçlı bir uygulamanın temel ana bilgisayarı doğrulamadan özel yetkilere sahip bir Web Görünümüne (Web View) bağlantı göndermesine izin veren ve saldırganın sayfasının Web Görünümü kimlik bilgilerini ele geçirmesine olanak tanıyan bir açığı hedefleyen 50 bin dolarlık bir ödülü de içeriyordu. Buna ek olarak, bilgisayara erişimi olan bir saldırganın, uygulama yetkileriyle kod yürütmek için otomatik güncelleme özelliğini istismar etmesine olanak tanıyan bir Mac uygulaması açığı için sadece bin dolarlık bir ödül verildi.
Bu, Yapay Zeka Güvenliği İçin Ne Anlama Geliyor?
Bu sonuçlar, büyük teknoloji şirketlerinin, kullanıcıların hassas verileri ve kişisel hesaplarıyla doğrudan etkileşime giren otonom yapay zeka ajanları geliştirirken karşılaştıkları karmaşık güvenlik zorluklarının boyutunu göstermektedir. Meta'nın, bazı istem enjeksiyonu (Prompt Injection) saldırıları için ödüllerin 130 bin dolara, tüm filonun ele geçirilmesi için ise 250 bin dolara kadar ulaşan politikası, şirketlerin riskler artmadan önce yapay zeka altyapılarını güçlendirmek için güvenlik araştırmacıları topluluğunu çekmedeki ciddiyetini teyit etmektedir.