Los chatbots y avatares que imitan a personas fallecidas van más allá de la idea de conservar recuerdos y plantean una pregunta más compleja: ¿se permite reconstruir digitalmente la personalidad de una persona y utilizarla después de su muerte sin su consentimiento previo? Estos sistemas, conocidos también como «robots de duelo», «robots muertos» o «vida digital después de la muerte», dependen de grandes cantidades de datos personales para imitar el estilo de comunicación y algunos rasgos de la biografía y la personalidad.
Este uso promete ofrecer un espacio para recordar y expresar sentimientos, pero al mismo tiempo suscita preocupaciones sobre la explotación de los datos del fallecido, el efecto de interactuar con una versión digital de este en el proceso de duelo y los límites de la responsabilidad cuando la plataforma genera contenido dañino o engañoso.
El consentimiento es el primer punto de controversia
Katarzyna Nowaczyk-Basinska, investigadora del Centro Leverhulme para el Futuro de la Inteligencia de la Universidad de Cambridge, considera que obtener el consentimiento de la persona antes de su muerte constituye una de las cuestiones éticas más importantes en este ámbito. La existencia de un consentimiento explícito podría aliviar parte del problema, mientras que crear un «gemelo digital» de una persona fallecida sin ese consentimiento sigue siendo controvertido, incluso si la motivación es consolar a sus familiares.
El problema no se limita al consentimiento, sino que se extiende a determinar qué datos pueden utilizarse, cómo protegerlos y la posibilidad de que se haga un uso indebido de ellos. Nowaczyk-Basinska advierte que las empresas comerciales podrían convertir la representación de los fallecidos en un nuevo canal publicitario, por ejemplo, mostrando anuncios personalizados utilizando la personalidad o el estilo del difunto, lo que podría transformar la «inmortalidad digital» en un producto comercial carente de límites claros.
También considera que los niños que afrontan la pérdida de un familiar constituyen un grupo especialmente vulnerable y que no deberían ser expuestos a estas tecnologías antes de comprender mejor sus efectos psicológicos.
Los expertos no ofrecen un juicio único
No todos los especialistas están de acuerdo con exigir el consentimiento previo en todos los casos. Darcy Harris, profesor de estudios sobre la muerte y el proceso de morir en King's University College, afiliado a la Universidad Western de Canadá, considera que un robot personal creado para ayudar a personas que han perdido a un ser querido no necesariamente necesita el consentimiento del fallecido.
Sin embargo, Harris subraya la necesidad de establecer límites claros para proteger la información personal y la importancia de que los sistemas informen automáticamente sobre las conversaciones que puedan resultar dañinas. Esta postura revela una distinción importante entre la cuestión de permitir la creación de la herramienta y la de las garantías que deben regir su uso una vez creada.
Por su parte, Christopher Hall, director ejecutivo de la organización Grief Australia, respaldada por el Gobierno, advierte sobre la comercialización de algunos servicios por parte de las plataformas como una oportunidad para «no despedirse nunca». Señala que este discurso puede aumentar el atractivo de la tecnología, pero también puede intensificar el apego a ella o dificultar la aceptación de la realidad de la muerte.
¿Qué cambia en la práctica?
Los riesgos se hacen más evidentes cuando no se conocen los deseos del fallecido respecto a su legado digital. Hall cita el caso de Joshua Barbeau en Canadá, quien conversó a través de la plataforma Project December con un robot diseñado según la personalidad de su prometida fallecida, Jessica. Considera que el ejemplo muestra las dos caras contradictorias de la tecnología: puede ofrecer a algunas personas un espacio para expresar recuerdos y vínculos emocionales, pero en otras puede intensificar la sensación de pérdida o dificultar la adaptación a la muerte.
Estas herramientas también pueden provocar conflictos entre los familiares sobre si se debe permitir su creación o sobre la manera de utilizarlas, además de causar posiblemente traumas a algunos usuarios. Por ello, Hall pide a las empresas que aclaren que la herramienta es una simulación y no la persona fallecida, y que no es una entidad jurídica, además de ofrecer consentimiento, protección de la privacidad, límites de edad y opciones claras para eliminarla o detener el servicio.
Una brecha normativa deja la decisión en manos de las empresas
Los expertos mencionados en el artículo coinciden en que las normas actuales no están a la altura de la expansión de los usos de la inteligencia artificial. Nowaczyk-Basinska afirma que el mundo aún no dispone de normas nacionales o mundiales suficientes para regular la «inmortalidad digital», lo que concede a los productores margen para tomar decisiones discrecionales sobre cómo desarrollar y operar estos servicios.
Organismos reguladores y actores políticos han comenzado a prestar atención al tema; Nowaczyk-Basinska señaló que ella y su colega Tomasz Hollanek presentaron recomendaciones a políticos del Reino Unido sobre los robots que imitan a personas fallecidas. Sin embargo, el artículo no presenta un marco normativo vigente ni un estándar unificado que pueda aplicarse internacionalmente.
Lectura de certi.news: La importancia de esta cuestión no reside únicamente en la capacidad de la inteligencia artificial para imitar el estilo de una persona fallecida, sino en trasladar una decisión delicada del ámbito de la familia y la memoria a plataformas comerciales que gestionan datos extremadamente privados. Las opiniones de los expertos demuestran que los puntos decisivos en la práctica son: ¿dejó el fallecido instrucciones claras? ¿Quién tiene derecho a tomar la decisión en su ausencia? ¿Cómo impide la plataforma la manipulación, la publicidad o las conversaciones dañinas? ¿Y cuándo puede el usuario detener la experiencia o eliminarla? El artículo no ofrece respuestas definitivas a estas preguntas, pero deja claro que su ausencia no es un detalle técnico, sino una brecha de gobernanza que afecta a la privacidad, la salud mental y los derechos de la familia.