模拟逝者的聊天机器人和头像已经超越了保存记忆的概念，提出了一个更复杂的问题：未经本人事先同意，是否可以在数字层面重建一个人的人格，并在其去世后使用？这些系统也被称为“哀伤机器人”“死者机器人”或“死亡后的数字生命”，依靠大量个人数据来模仿交流方式以及个人生平和性格的某些特征。
这种用途有望提供一个用于回忆和表达情感的空间，但同时也引发了人们对逝者数据遭到利用、与其数字版本互动对哀悼过程的影响，以及当平台生成有害或误导性内容时责任边界的担忧。
同意是首要争议点
剑桥大学Leverhulme未来智能研究中心研究员Katarzyna Nowaczyk-Basinska认为，在一个人去世前获得其同意，是这一领域最重要的伦理问题之一。明确同意可以缓解部分问题；而在没有这种同意的情况下，为逝者创建“数字孪生”仍存在争议，即使动机是安慰其家人。
问题不仅在于同意，还延伸到可以使用哪些数据、如何保护这些数据，以及数据可能遭到滥用的风险。Nowaczyk-Basinska警告说，商业公司可能会把对逝者的再现转变为新的广告渠道，例如利用逝者的人格或表达方式展示定制广告，这可能使“数字永生”变成一个缺乏明确边界的商业产品。
她还认为，正在应对家庭成员去世的儿童属于极其脆弱的群体，在更好地了解这些技术的心理影响之前，不应让他们接触这些技术。
专家并未给出单一结论
并非所有专业人士都同意每种情况下都必须事先获得同意。加拿大Western大学所属King's University College的死亡与临终学教授Darcy Harris认为，为帮助失去亲人的人而创建的个人机器人，不一定必须获得逝者的同意。
但Harris同时强调，有必要设定明确界限以保护个人信息，并且系统应能够自动报告可能有害的对话。这一立场揭示了一个重要区别：是否允许创建工具，与工具创建后应受哪些保障措施约束，是两个不同的问题。
而由政府支持的Grief Australia组织首席执行官Christopher Hall则警告，一些平台将这些服务营销为“永远不必道别”的机会。他指出，这种宣传可能增强技术的吸引力，但也可能加深人们对它的依赖，或使人更难接受死亡的事实。
实际上会发生什么变化？
当人们不知道逝者对于其数字遗产的意愿时，风险会更加明显。Hall以加拿大的Joshua Barbeau为例：他通过Project December平台，与一个按照其已故未婚妻Jessica的人格设计的机器人进行交流。他认为，这个例子展现了技术相互矛盾的两面：它可能为一些人提供表达记忆和情感联系的空间，但也可能加重另一些人的失落感，或妨碍他们适应死亡。
这些工具还可能导致家庭成员围绕是否允许创建以及如何使用而产生争执，并可能给一些用户造成创伤。因此，Hall呼吁企业明确说明该工具是模拟，而不是逝者本人，也不是法律实体；同时提供同意机制、隐私保护、年龄限制，以及明确的删除或停止服务选项。
监管缺口将决定权留给企业
本文提到的专家一致认为，现有规则没有跟上人工智能应用不断扩大的步伐。Nowaczyk-Basinska表示，世界目前还没有足够的国家或全球性规则来监管“数字永生”，这使生产商能够自行判断如何开发和运营这些服务。
监管和政治机构已经开始关注这一问题；Nowaczyk-Basinska提到，她和同事Tomasz Hollanek曾就模拟逝者的机器人向英国政治人士提出建议。然而，本文没有介绍一套已经生效的监管框架，也没有介绍可在国际范围内实施的统一标准。
certi.news解读：这一问题的重要性不仅在于人工智能能够模仿逝者的表达方式，更在于它把一个敏感决定从家庭和记忆的范围转移到了管理高度私密数据的商业平台。专家观点表明，实际的关键问题包括：逝者是否留下了明确指示？在缺乏指示时，谁有权作出决定？平台如何防止操纵、广告或有害对话？用户何时可以停止体验或将其删除？本文没有对这些问题给出最终答案，但它表明，这些问题的缺失并非技术细节，而是涉及隐私、心理健康和家庭权利的治理缺口。