Чат-боты и аватары, имитирующие умерших людей, выходят за рамки идеи сохранения воспоминаний и ставят более сложный вопрос: допустимо ли цифровым образом воссоздавать личность человека и использовать её после его смерти без предварительного согласия? Эти системы, также известные как «боты скорби», «мёртвые боты» или «цифровая жизнь после смерти», используют большие объёмы персональных данных, чтобы имитировать стиль общения, а также некоторые черты биографии и личности.
Такое применение обещает предоставить пространство для воспоминаний и выражения чувств, но одновременно вызывает опасения по поводу эксплуатации данных умершего, влияния взаимодействия с его цифровой версией на процесс переживания горя и границ ответственности, когда платформа создаёт вредоносный или вводящий в заблуждение контент.
Согласие — первый предмет разногласий
Katarzyna Nowaczyk-Basinska, исследовательница из Центра Леверхалма по изучению будущего интеллекта Кембриджского университета, считает, что получение согласия человека до его смерти является одним из важнейших этических вопросов в этой сфере. Наличие явно выраженного согласия может частично снять проблему, тогда как создание «цифрового двойника» умершего без такого согласия остаётся спорным, даже если целью является утешение членов его семьи.
Проблема касается не только согласия, но и определения данных, которые можно использовать, способов их защиты и возможности злоупотребления ими. Nowaczyk-Basinska предупреждает, что коммерческие компании могут превратить представление умерших в новый рекламный канал, например показывая персонализированную рекламу с использованием личности или манеры речи покойного. Это может превратить «цифровое бессмертие» в коммерческий продукт без чётких границ.
Она также считает, что дети, переживающие потерю члена семьи, относятся к особенно уязвимой группе, и не следует подвергать их воздействию этих технологий до тех пор, пока их психологические последствия не будут лучше изучены.
Эксперты не выносят единого вердикта
Не все специалисты согласны с требованием предварительного согласия в каждом случае. Darcy Harris, профессор танатологии и науки об умирании в King’s University College при Университете Western в Канаде, считает, что персональному роботу, созданному для помощи людям, потерявшим близкого, не обязательно всегда требуется согласие умершего.
Однако Harris одновременно подчёркивает необходимость установить чёткие границы для защиты персональной информации и важность того, чтобы системы автоматически сообщали о разговорах, которые могут быть вредными. Эта позиция выявляет важное различие между вопросом о разрешении создать инструмент и вопросом о гарантиях, которыми должно регулироваться его использование после создания.
Christopher Hall, генеральный директор поддерживаемой государством организации Grief Australia, предупреждает о том, что некоторые платформы продвигают эти услуги как возможность «никогда не прощаться». По его словам, такая риторика может повысить привлекательность технологии, но также усилить зависимость от неё или затруднить принятие факта смерти.
Что меняется на практике?
Риски становятся более очевидными, когда неизвестны пожелания умершего относительно его цифрового наследия. Hall приводит в пример случай Joshua Barbeau из Канады, который общался через платформу Project December с роботом, созданным по образу его умершей невесты Jessica. По его мнению, этот пример демонстрирует две противоположные стороны технологии: она может дать некоторым людям возможность выражать воспоминания и эмоциональную привязанность, но у других способна усилить ощущение утраты или помешать адаптации к смерти.
Эти инструменты также могут привести к разногласиям между членами семьи по поводу разрешения на их создание или способов использования, а кроме того, потенциально травмировать некоторых пользователей. Поэтому Hall призывает компании ясно объяснять, что инструмент является симуляцией, а не умершим человеком, и что он не является юридическим лицом, а также обеспечивать согласие, защиту конфиденциальности, возрастные ограничения и понятные возможности удаления или прекращения обслуживания.
Регуляторный пробел оставляет решения компаниям
Упомянутые в материале эксперты сходятся во мнении, что действующие правила не успевают за расширением сфер применения искусственного интеллекта. Nowaczyk-Basinska говорит, что в мире пока нет достаточных национальных или глобальных правил для регулирования «цифрового бессмертия», что оставляет производителям пространство для принятия дискреционных решений о разработке и эксплуатации этих услуг.
Регулирующие и политические органы уже начали обращать внимание на эту тему: Nowaczyk-Basinska сообщила, что они с коллегой Tomasz Hollanek представили британским политикам рекомендации относительно роботов, имитирующих умерших. Однако в материале не представлен действующий нормативный framework или единый стандарт, который можно было бы применять на международном уровне.
Чтение certi.news: важность этого вопроса заключается не только в способности искусственного интеллекта имитировать манеру речи умершего человека, но и в переносе чувствительного решения из сферы семьи и памяти на коммерческие платформы, управляющие крайне конфиденциальными данными. Мнения экспертов показывают, что практические ключевые вопросы таковы: оставил ли умерший ясные указания? Кто имеет право принимать решение при их отсутствии? Как платформа предотвращает манипуляции, рекламу или вредоносные разговоры? В какой момент пользователь может прекратить эксперимент или удалить его? Материал не даёт окончательных ответов на эти вопросы, но показывает, что их отсутствие — не техническая деталь, а пробел в управлении, затрагивающий конфиденциальность, психическое здоровье и права семьи.