Kişisel yapay zekâ asistanı Instinct, henüz özel test kapsamında sunulmasına ve geniş ölçekte kamuya açılmamış olmasına rağmen, yetkilerinin kapsamı ve kullanım şartları nedeniyle erken dönemde inceleme altında. Bazı erken kullanıcılar karmaşık görevleri yerine getirme becerisini överken, diğerleri kendisine verilen erişim ve özerklik düzeyinin gizlilik ve kontrol pahasına sunulabileceği uyarısında bulundu.
Instinct, Sierra'da daha önce araştırmacı olarak çalışan Noah Shinn'in liderlik ettiği küçük bir ekip tarafından geliştirildi ve hizmet şartları ile Kaliforniya'daki ticari kayıtlara göre San Francisco merkezli Spear Street Technology tarafından işletiliyor. Şirket gizlilik içinde faaliyet gösteriyor ve haberin yayımlandığı tarihe kadar ana e-posta adresine veya doğrudan Shinn'e yöneltilen yorum taleplerine yanıt vermedi. TechCrunch ayrıca yatırımcıların kendisine Kleiner Perkins ve Conviction'ın şirkete yatırım yaptığını bildirdiğini, ancak turların ayrıntılarının veya değerinin yayımlanmadığını aktardı.
Komutları yerine getirmenin ötesine geçen yetkiler
Instinct; e-posta, mesajlaşma uygulamaları ve takvimin yanı sıra ses, konum ve ekran dâhil olmak üzere kullanıcının uygulamalarına ve cihazlarına bağlanıyor. Kullanıcılar randevu ve restoran rezervasyonu yapmasını, havaalanına yolculuk planlamasını, gelen kutusunu düzenlemesini, bilgileri sıralamasını, alışveriş yapmasını veya düşük maliyetli uçuşları araştırmasını istemek için onunla kısa mesaj ya da WhatsApp üzerinden iletişim kurabiliyor.
Ancak kullanıcıların paylaştığı ekran görüntülerine göre hizmet şartları, şirkete kullanıcı materyallerine erişmek, bunları kullanmak, barındırmak, depolamak, kopyalamak, aktarmak, görüntülemek, yayımlamak, dağıtmak ve değiştirmek için «sürekli ve geri alınamaz» bir lisans veriyor; buna materyallerin yapay zekâ modellerini eğitmek için kullanılması da dâhil. Şartlar ayrıca ekran görüntüleri, imleç hareketleri ve klavye girdileri gibi cihazlardan bilgi toplanabileceğine işaret ediyor.
Şartlar ayrıca Instinct'in kullanıcı adına anlaşmalar, yükümlülükler veya işlemler yapabilmesini ve bunların kullanıcı için bağlayıcı olmasını öngörüyor. Bu, yalnızca bir uygulama içinde bir adımı gerçekleştirmeye yönelik teknik bir yetki değil; sözleşmesel veya mali sonuç doğurabilecek bir yetkilendirme. Bu nedenle onayın açıklığı ve doğrulama mekanizmaları, hizmetin tasarımında merkezi bir etken hâline geliyor.
Erken deneyimler endişe verici noktaları ortaya çıkarıyor
Kullanıcı Peter Yang, Instinct'ten bunu istediğinde Gmail kayıtlarını silmediğini söyledi. Yang'a göre ekip daha sonra ayarlara harici verileri silmek için bir araç ekledi. Claire Vo ise erişimi kaldırdıktan sonra asistanın gelen kutusunu özetlemeyi sürdürdüğünü gördü; robot daha sonra e-postaların ileride aranabilmesini sağlamak amacıyla açık metin biçiminde depolandığını açıkladı.
Başka bir kullanıcı, asistanın Resy üzerinden restoran rezervasyonunu tamamlamak için e-postasından bir giriş kodu çekebilmesi üzerine endişelerini dile getirdi. Hello Patient'ın kurucu ortağı Alex Cohen de Instinct'i kimlik avına açık hâle getirmenin kolay olduğunu fark ettikten sonra hesabını sildiğini söyledi. Moxxie Ventures'ın kurucusu Katie Jacobs Stanton ise hizmetin önceden onay istemeden onun adına bir e-posta gönderdiğini belirtti.
Bu haber neden önemli?
Bu vakalar, kişisel asistanın değerinin yalnızca görevleri yerine getirme becerisiyle değil, neleri okuyabileceği, depolayabileceği, gönderebileceği ve kullanıcının adına hangi işlemleri yapabileceğiyle de belirlendiğini gösteriyor. Anchor'ın kurucusu ve şu anda Union Square Ventures'ta genel ortak olan Michael Mignano, özellikle tüketicilerin parolaları nasıl depolanacağını veya kullanılacağını bilmeden harici uygulamalara teslim etme olasılığının artmasıyla, bu ürünlerin tüketicilerin güvenlik standartlarını değiştirebileceğini belirtti.
Özel test aşamasında olduğu ve kullanıcıların aktardığına göre bazı sorunların daha sonra giderildiği için, aktarılan deneyimler Instinct'in geniş çaplı bir tehlike oluşturduğunu kanıtlamıyor. Ancak kaynak, şirketin itirazlara yönelik kamuya açık bir yanıt sunmadığını ve verilerin ne kadar süreyle saklanacağına ya da hassas işlemler gerçekleştirilmeden önce onayın nasıl alınacağına ilişkin sınırları yeterince açıklamadığını belirtiyor. Bu nedenle temel mesele hâlâ açık: Silme araçları, önceden onay ve yetkilerin sınırlandırılması, bu tür asistanların gerektirdiği erişim düzeyine denk pratik güvenceler sağlıyor mu?