고인을 모방하는 챗봇과 아바타는 추억을 간직하는 개념을 넘어 더 복잡한 질문을 제기한다. 사망한 사람의 인격을 디지털 방식으로 재구성해, 생전에 사전 동의를 받지 않고 사후에 사용할 수 있는가? ‘애도 로봇’, ‘죽은 자의 로봇’ 또는 ‘사후 디지털 삶’이라고도 불리는 이러한 시스템은 방대한 양의 개인정보를 바탕으로 의사소통 방식과 생애의 일부 특징 및 성격을 모방한다.
이러한 사용은 추억을 떠올리고 감정을 표현할 수 있는 공간을 제공하겠다는 약속을 내세우지만, 동시에 고인의 데이터가 악용될 가능성, 고인의 디지털 복제본과 상호작용하는 것이 애도 과정에 미치는 영향, 플랫폼이 해롭거나 오해를 불러일으키는 콘텐츠를 생성했을 때의 책임 범위에 대한 우려를 불러일으킨다.
첫 번째 쟁점은 동의다
케임브리지대학교 Leverhulme 인공지능 미래 연구센터의 연구자인 Katarzyna Nowaczyk-Basinska는 사망하기 전에 당사자의 동의를 받는 것이 이 분야에서 가장 중요한 윤리적 질문 중 하나라고 본다. 명시적인 동의가 있으면 문제의 일부가 완화될 수 있지만, 가족을 위로하려는 목적이라 하더라도 이러한 동의 없이 사망한 사람의 ‘디지털 쌍둥이’를 만드는 일은 여전히 논쟁의 대상이다.
문제는 동의에만 국한되지 않고, 어떤 데이터를 사용할 수 있는지, 이를 어떻게 보호할지, 악용될 가능성이 있는지로까지 확대된다. Nowaczyk-Basinska는 상업적 기업들이 고인의 재현을 새로운 광고 채널로 전환할 수 있다고 경고한다. 예를 들어 고인의 인격이나 말투를 활용해 맞춤형 광고를 제시할 수 있으며, 이는 ‘디지털 불멸’을 명확한 경계가 없는 상업적 상품으로 바꿀 수 있다.
또한 가족 구성원의 죽음을 겪는 아동은 매우 민감한 집단이므로, 그 심리적 영향을 더 잘 이해하기 전에는 이러한 기술에 노출해서는 안 된다고 본다.
전문가들은 하나의 결론을 제시하지 않는다
모든 전문가가 모든 경우에 사전 동의를 요구해야 한다는 데 동의하는 것은 아니다. 캐나다 Western대학교 산하 King’s University College의 죽음과 임종학 교수인 Darcy Harris는 사랑하는 사람을 잃은 이들을 돕기 위해 제작된 개인용 로봇이 반드시 고인의 동의를 필요로 하지는 않을 수 있다고 본다.
그러나 Harris는 개인정보를 보호하기 위해 명확한 경계를 설정하고, 해로울 수 있는 대화를 시스템이 자동으로 보고하도록 하는 것이 중요하다고 강조한다. 이러한 입장은 도구의 제작을 허용할 것인지에 대한 질문과, 제작된 뒤 사용을 규율해야 할 보호장치에 대한 질문 사이의 중요한 차이를 보여준다.
한편 정부의 지원을 받는 Grief Australia의 최고경영자인 Christopher Hall은 일부 플랫폼이 이러한 서비스를 ‘절대 작별하지 않을’ 기회로 홍보하는 것에 대해 경고한다. 그는 이러한 표현이 기술의 매력을 높일 수 있지만, 기술에 대한 집착을 키우거나 죽음의 현실을 받아들이기 어렵게 만들 수도 있다고 지적한다.
실제로 무엇이 달라지는가?
고인이 자신의 디지털 유산에 대해 어떤 바람을 가졌는지 알려지지 않은 경우 위험은 더욱 분명해진다. Hall은 캐나다의 Joshua Barbeau 사례를 언급한다. Barbeau는 Project December 플랫폼을 통해 고인이 된 약혼녀 Jessica의 성격에 맞춰 설계된 로봇과 대화했다. 그는 이 사례가 기술의 상반된 양면을 보여준다고 본다. 일부 사람에게는 추억과 정서적 유대를 표현할 기회를 제공할 수 있지만, 다른 사람에게는 상실감을 키우거나 죽음에 적응하는 과정을 방해할 수 있다는 것이다.
이러한 도구는 가족 구성원 사이에 제작 허용 여부나 사용 방식에 관한 갈등을 일으킬 수 있으며, 일부 사용자에게 충격을 줄 가능성도 있다. 따라서 Hall은 기업들이 이 도구가 시뮬레이션일 뿐 고인 본인이 아니며, 법적 실체도 아니라는 점을 명확히 밝혀야 한다고 촉구한다. 또한 동의, 개인정보 보호, 연령 제한, 서비스 삭제 또는 중단을 위한 명확한 선택지를 제공해야 한다고 말한다.
규제 공백이 결정을 기업에 맡기다
이 글에 등장하는 전문가들은 현재의 규정이 인공지능 사용의 확대를 따라가지 못하고 있다는 데 동의한다. Nowaczyk-Basinska는 세계가 아직 ‘디지털 불멸’을 규제할 충분한 국가적 또는 세계적 규정을 갖추지 못했으며, 이로 인해 서비스의 개발 및 운영 방식을 재량에 따라 결정할 수 있는 공간이 제작자들에게 주어지고 있다고 말한다.
규제기관과 정치권도 이 문제에 관심을 기울이기 시작했다. Nowaczyk-Basinska는 자신과 동료 Tomasz Hollanek이 고인을 모방하는 로봇에 관해 영국 정치인들에게 권고안을 제출했다고 밝혔다. 그러나 이 글은 국제적으로 적용할 수 있는 시행 중인 규제 체계나 통일된 기준을 제시하지는 않는다.
certi.news의 해설: 이 사안의 중요성은 인공지능이 고인의 말투를 모방할 수 있다는 능력에만 있는 것이 아니다. 매우 사적인 데이터를 관리하는 상업 플랫폼으로 민감한 결정을 가족과 기억의 영역에서 옮겨 놓는 데 있다. 전문가들의 의견은 실제로 결정을 좌우하는 핵심 사항이 다음과 같다는 점을 보여준다. 고인이 명확한 지침을 남겼는가? 고인이 없을 때 누가 결정권을 갖는가? 플랫폼은 조작, 광고 또는 해로운 대화를 어떻게 방지하는가? 사용자는 언제 이 경험을 중단하거나 삭제할 수 있는가? 이 글은 이러한 질문에 대한 최종적인 답을 제시하지 않지만, 답이 없는 상태는 기술적 세부사항이 아니라 개인정보, 정신건강 및 가족의 권리에 영향을 미치는 거버넌스의 공백임을 보여준다.