Yapay zekâ ajanları geliştiren şirketler, bu sistemlerin kullanıcı verilerine geniş erişim sağlaması ve kullanıcılar adına görevler yürütmesi gereken bir dönemde, gizliliği rekabetin başlıca unsurlarından biri hâline getirmeye çalışıyor. Ancak Meta’nın ajanı Muse ile yaşadığı deneyim ve OpenAI’nin daha güvenli bir alternatif olarak tanıttığı Dots’u sunması, yalnızca verilen sözlerin veri korumasını kanıtlamaya yetmediğini gösteriyor.
Muse’dan Dots’a
Meta, Muse ajanını OpenClaw’dan daha güvenli bir seçenek olarak sundu ve kullanıcı verilerinin, şirketin tarayıcı, işlem birimi, bellek ve depolama alanı içeren izole bir Linux bilgisayar olarak tanımladığı güvenli bir sanal makinede saklandığını söyledi. Meta ayrıca daha sonra, sanal makinenin içinde bulunan verilere erişmesini engelleyecek doğrulanabilir bir şifreleme yöntemi eklemeyi planladığını açıkladı.
Ancak bu izolasyon, mevcut durumda Meta’nın kendisinin verilere erişmesini engellemedi. Ayrıca bir güvenlik araştırmacısı, düzeltilmeden önce Muse’un kontrolünü ele geçirmeye olanak sağlayabilecek bir sıfırıncı gün açığı ortaya çıkardı. Lansmandan kısa süre önce ortaya çıkan ve Meta’nın dahili veritabanlarına erişim sağlayabilecek bir açığın da aralarında bulunduğu ciddi güvenlik sorunları bildirildi.
Apptopia’ya göre Muse, birkaç hafta içinde ABD’de günlük 600 bin aktif kullanıcıya ulaşarak hızlı bir büyüme kaydetti ve uygulama mağazası listelerinde zirveye çıktı. Ancak hızlı yayılım, ajanın verilere yönelik davranışına ilişkin endişeleri ortadan kaldırmadı.
Gizlilik endişelerini ne tetikledi?
Muse, varsayılan olarak kullanıcıların girdiği içeriklerin Meta modellerini eğitmek için kullanılmasına izin veriyor; bununla birlikte devre dışı bırakma seçeneği de sunuluyor. Ayrıca ajanın özel mesajları okuduğu ve yüklediği, bir kullanıcının adresini Marketplace üzerinden bir yabancıya sunduğu yönünde haberler çıktı. Diğer durumlarda sistem, kullanıcıların arkadaşları ve aile üyeleri hakkında ayrıntılı profiller oluşturdu. Buradaki sorun yalnızca bir yazılım hatasının bulunması değil; sistemin, kullanıcı kapsamını fark etmeden, tasarlandığı işi yerine getirebilmesi.
Bu örnekler, ajanlarda gizliliğin korunmasının yalnızca verileri teknik olarak izole etmekle ilgili olmadığını; aynı zamanda yetki sınırları, onayların açıklığı ve kullanıcının ajanın neleri okuyabileceğini veya paylaşabileceğini önceden anlayıp anlamadığıyla da ilgili olduğunu gösteriyor.
OpenAI’nin vaatleri ve Dots’un kontrolleri
OpenAI, Dots’u eylül ayında duyurduğunda bu eleştirilerden yararlandı. Şirket, DevDay sırasında ajanın belirli bir tutarı aşan satın alma işlemleri gerçekleştirmesini engelleyen bir kural belirleme gibi bireysel kontrol imkânları sergiledi. Ayrıca şirketlere veriler üzerinde daha güçlü kontroller ve verileri saklamama politikası seçenekleri içeren bir çerçeve sundu; böylece bilgiler OpenAI sunucularında saklanmayacaktı.
OpenAI yetkilileri, şirketin güvenilir ve emniyetli bir asistan sunmayı amaçladığını, Meta’nın kullanıcı tabanının büyüklüğünün ise bu tür hataları daha tehlikeli hâle getirdiğini söyledi. Ancak şu ana kadar Dots ile ilişkilendirilen geniş çaplı gizlilik skandallarının bulunmaması temkinli değerlendirilmelidir; ajan yalnızca 100 dolardan başlayan ChatGPT planlarında kullanılabiliyor, bu da potansiyel kullanıcı tabanının daha küçük olduğu anlamına geliyor.
Bu haber neden önemli?
Yapay zekâ ajanlarının mesajları veya satın alımları yönetmek ya da hesaplarla işlem yapmak gibi görevleri yerine getirebilmesi için geleneksel sohbet araçlarından daha fazla veriye ihtiyacı var. Bu nedenle gerçek gizlilik ölçütü şirketin açıklaması değil; kullanıcının ajanın nereye eriştiğini bilme, eylemlerini sınırlandırma ve şirketin kendisinin ya da üçüncü tarafların verileri beklenen amaç dışında kullanmasını engelleme kapasitesi olmalı.
Temel sorular ise açık kalıyor: Onaylar yeterince anlaşılır mı? Verileri saklamama kontrolleri açıklandığı gibi çalışıyor mu? Verilerin izolasyonunu bağımsız olarak doğrulama mekanizması nedir? Daha sonra değişiklikler yapılmadan önce kendisine verilere geniş erişim tanıyan hizmet koşulları nedeniyle eleştirilen Instinct örneğinin de gösterdiği gibi, hukuki şartlar ve kullanım deneyimi güvenlik modelinin bir parçasıdır; ikincil bir ayrıntı değildir.
Muse ile Dots arasındaki karşılaştırmanın ortaya koyduğu sonuç, yapay zekâ ajanları pazarının eş zamanlı üç vaat üzerinden güven inşa etmeye çalıştığıdır: pratik fayda, daha az endişe uyandıran bir deneyim ve gizliliğin korunması. Ancak güven, sonunda bu vaatlerin lansman sunumlarında ne kadar tekrarlandığıyla değil, ölçülebilir ve doğrulanabilir olup olmadıklarıyla belirlenecek.