Ölen kişileri taklit eden sohbet robotları ve avatarlar, anıları koruma fikrinin ötesine geçerek daha karmaşık bir soru ortaya koyuyor: Bir insanın kişiliğini dijital olarak yeniden oluşturmak ve ölümünden sonra, önceden rızası olmadan kullanmak caiz midir? “Yas robotları”, “ölü robotlar” veya “ölümden sonra dijital yaşam” olarak da bilinen bu sistemler, iletişim tarzını ve biyografi ile kişiliğin bazı özelliklerini taklit etmek için büyük miktarda kişisel veriye dayanıyor.
Bu kullanım, hatırlama ve duyguları ifade etme alanı sunma vaadinde bulunuyor; ancak aynı zamanda ölen kişinin verilerinin istismar edilmesi, onun dijital bir versiyonuyla etkileşimin yas sürecine etkisi ve platformun zarar verici ya da yanıltıcı içerik ürettiğinde sorumluluğun sınırları konusunda endişeler doğuruyor.
İlk anlaşmazlık noktası rıza
Cambridge Üniversitesi Leverhulme Yapay Zekânın Geleceği Merkezi araştırmacısı Katarzyna Nowaczyk-Basinska, kişinin ölümünden önce rıza alınmasının bu alandaki en önemli etik sorulardan biri olduğunu düşünüyor. Açık rızanın bulunması sorunun bir boyutunu hafifletebilirken, ölen bir kişi için bu rıza olmadan “dijital ikiz” oluşturulması, amaç aile üyelerini teselli etmek olsa bile tartışmalı olmaya devam ediyor.
Sorun yalnızca rızayla sınırlı değil; kullanılabilecek verilerin belirlenmesine, bunların korunma yöntemine ve kötüye kullanılma ihtimaline de uzanıyor. Nowaczyk-Basinska, ticari şirketlerin ölen kişilerin temsillerini yeni bir reklam kanalı hâline getirebileceği, örneğin ölen kişinin kişiliğini veya üslubunu kullanarak kişiselleştirilmiş reklamlar gösterebileceği uyarısında bulunuyor. Bu durum “dijital ölümsüzlüğü”, sınırları açıkça belirlenmemiş ticari bir ürüne dönüştürebilir.
Ayrıca aile üyelerinden birinin kaybıyla başa çıkmaya çalışan çocukların son derece hassas bir grup olduğunu ve etkileri daha iyi anlaşılmadan bu teknolojilere maruz bırakılmamaları gerektiğini düşünüyor.
Uzmanlar tek bir hüküm sunmuyor
Tüm uzmanlar her durumda önceden rıza alınması gerektiği konusunda hemfikir değil. Kanada’daki Western Üniversitesine bağlı King’s University College’da ölüm ve ölme bilimi profesörü olan Darcy Harris, sevdiği birini kaybeden kişilere yardımcı olmak amacıyla oluşturulan kişisel bir robotun mutlaka ölen kişinin rızasına ihtiyaç duymayabileceğini düşünüyor.
Ancak Harris, kişisel bilgileri korumak için açık sınırlar oluşturulmasının ve sistemlerin zarar verici olabilecek konuşmaları otomatik olarak bildirmesinin önemini vurguluyor. Bu tutum, aracın oluşturulmasına izin verilip verilmeyeceği sorusuyla, oluşturulduktan sonra kullanımını yönetmesi gereken güvenceler sorusu arasındaki önemli ayrımı ortaya koyuyor.
Hükümet destekli Grief Australia kuruluşunun başkanı Christopher Hall ise bazı platformların bu hizmetleri “asla veda etmeme” fırsatı olarak pazarlaması konusunda uyarıyor. Bu söylemin teknolojinin cazibesini artırabileceğini, ancak ona daha fazla bağlanmayı teşvik edebileceğini veya ölüm gerçeğini kabullenmeyi zorlaştırabileceğini belirtiyor.
Pratikte ne değişiyor?
Riskler, ölen kişinin dijital mirasıyla ilgili istekleri bilinmediğinde daha açık biçimde ortaya çıkıyor. Hall, Kanada’da Project December platformu üzerinden vefat eden nişanlısı Jessica’nın kişiliğine göre tasarlanmış bir robotla konuşan Joshua Barbeau örneğine başvuruyor. Ona göre bu örnek, teknolojinin birbiriyle çelişen iki yönünü gösteriyor: Bazı kişilere anıları ve duygusal bağı ifade etme alanı sağlayabilir; ancak başkalarında kayıp duygusunu artırabilir veya ölüme uyum sağlamayı engelleyebilir.
Bu araçlar ayrıca aile üyeleri arasında oluşturulmalarına izin verilmesi veya nasıl kullanılacakları konusunda anlaşmazlıklara yol açabilir; bunun yanı sıra bazı kullanıcılar için travmaya neden olma ihtimali de bulunuyor. Bu nedenle Hall, şirketlerin aracın bir simülasyon olduğunu ve ölen kişinin kendisi olmadığını, ayrıca bir tüzel kişilik teşkil etmediğini açıkça belirtmesini; rıza, mahremiyet koruması, yaş sınırları ve hizmeti silme veya durdurma seçenekleri sağlamasını istiyor.
Düzenleme açığı kararı şirketlere bırakıyor
Makalede yer alan uzmanlar, mevcut kuralların yapay zekâ kullanım alanlarının genişlemesine ayak uydurmadığı konusunda hemfikir. Nowaczyk-Basinska, dünyanın henüz “dijital ölümsüzlüğü” düzenlemek için yeterli ulusal veya küresel kurallara sahip olmadığını ve bunun üreticilere bu hizmetlerin nasıl geliştirileceği ve işletileceği konusunda takdir yetkisi tanıdığını söylüyor.
Düzenleyici ve siyasi makamlar konuya dikkat etmeye başladı; Nowaczyk-Basinska, meslektaşı Tomasz Hollanek ile birlikte Birleşik Krallık’taki siyasetçilere ölen kişileri taklit eden robotlarla ilgili tavsiyeler sunduklarını belirtiyor. Ancak makale, yürürlükte olan bir düzenleyici çerçeve veya uluslararası düzeyde uygulanabilecek birleşik bir standart ortaya koymuyor.
certi.news’in değerlendirmesi: Bu konunun önemi, yalnızca yapay zekânın ölen bir kişinin üslubunu taklit edebilmesinden kaynaklanmıyor; aynı zamanda hassas bir kararı aile ve anı alanından, son derece mahrem verileri yöneten ticari platformlara taşımasından kaynaklanıyor. Uzmanların görüşleri, pratikte belirleyici noktaların şunlar olduğunu gösteriyor: Ölen kişi açık bir talimat bıraktı mı? Böyle bir talimatın yokluğunda karar verme hakkı kime ait? Platform manipülasyonu, reklamları veya zarar verici konuşmaları nasıl önleyecek? Kullanıcı deneyimi ne zaman durdurabilir veya silebilir? Makale bu sorulara kesin yanıtlar sunmuyor; ancak bunların yokluğunun teknik bir ayrıntı değil, mahremiyet, ruh sağlığı ve ailenin haklarını etkileyen bir yönetişim açığı olduğunu açıklıyor.