Os chatbots e avatares que simulam pessoas falecidas vão além da ideia de preservar memórias e levantam uma questão mais complexa: é permitido reconstruir digitalmente a personalidade de uma pessoa e usá-la após sua morte sem seu consentimento prévio? Esses sistemas, também conhecidos como «robôs do luto», «robôs mortos» ou «vida digital após a morte», dependem de grandes quantidades de dados pessoais para imitar o estilo de comunicação e alguns traços da biografia e da personalidade.
Esse uso promete oferecer um espaço para recordar e expressar sentimentos, mas, ao mesmo tempo, suscita preocupações sobre a exploração dos dados da pessoa falecida, o impacto da interação com uma versão digital dela no processo de luto e os limites da responsabilidade quando a plataforma produz conteúdo nocivo ou enganoso.
O consentimento é o primeiro ponto de divergência
Katarzyna Nowaczyk-Basinska, pesquisadora do Centro Leverhulme para o Futuro da Inteligência da Universidade de Cambridge, considera que obter o consentimento da pessoa antes de sua morte é uma das questões éticas mais importantes nesse campo. A existência de um consentimento explícito pode atenuar parte do problema, enquanto a criação de um «gêmeo digital» de uma pessoa falecida sem esse consentimento continua sendo controversa, mesmo quando a motivação é confortar seus familiares.
O problema não se limita ao consentimento, mas se estende à definição dos dados que podem ser usados, à forma como são protegidos e à possibilidade de uso indevido. Nowaczyk-Basinska alerta que empresas comerciais podem transformar a representação de pessoas falecidas em um novo canal publicitário, por exemplo, exibindo anúncios personalizados com o uso da personalidade ou do estilo da pessoa falecida, o que pode transformar a «imortalidade digital» em um produto comercial sem limites claros.
Ela também considera que as crianças que lidam com a perda de um familiar constituem um grupo extremamente sensível e não deveriam ser expostas a essas tecnologias antes que seus efeitos psicológicos sejam mais bem compreendidos.
Os especialistas não apresentam um único veredito
Nem todos os especialistas concordam que o consentimento prévio seja obrigatório em todos os casos. Darcy Harris, professor de estudos sobre a morte e o morrer no King's University College, vinculado à Western University, no Canadá, considera que um robô pessoal criado para ajudar pessoas que perderam alguém querido pode não precisar necessariamente do consentimento da pessoa falecida.
Harris, por outro lado, enfatiza a necessidade de estabelecer limites claros para proteger as informações pessoais e a importância de que os sistemas relatem automaticamente conversas que possam ser nocivas. Essa posição revela uma distinção importante entre a questão de permitir a criação da ferramenta e a questão das garantias que devem reger seu uso depois de criada.
Já Christopher Hall, diretor-executivo da organização Grief Australia, apoiada pelo governo, alerta para a forma como algumas plataformas comercializam esses serviços como uma oportunidade de «nunca dizer adeus». Ele observa que esse discurso pode aumentar a atratividade da tecnologia, mas também pode intensificar o apego a ela ou dificultar a aceitação da realidade da morte.
O que muda na prática?
Os riscos se tornam mais evidentes quando os desejos da pessoa falecida em relação ao seu legado digital não são conhecidos. Hall cita o caso de Joshua Barbeau, no Canadá, que conversou, por meio da plataforma Project December, com um robô projetado com base na personalidade de sua noiva falecida, Jessica. Ele considera que o exemplo mostra as duas faces contraditórias da tecnologia: ela pode oferecer a algumas pessoas espaço para expressar memórias e vínculo emocional, mas pode aumentar, em outras, a sensação de perda ou dificultar a adaptação à morte.
Essas ferramentas também podem provocar conflitos entre familiares sobre a autorização para criá-las ou sobre a forma de utilizá-las, além da possibilidade de causar traumas a alguns usuários. Por isso, Hall defende que as empresas esclareçam que a ferramenta é uma simulação, e não a pessoa falecida, e que ela não é uma entidade legal, além de oferecer consentimento, proteção da privacidade, limites de idade e opções claras para excluir ou interromper o serviço.
Uma lacuna regulatória deixa a decisão nas mãos das empresas
Os especialistas citados no material concordam que as regras atuais não acompanham a expansão dos usos da inteligência artificial. Nowaczyk-Basinska afirma que o mundo ainda não dispõe de regras nacionais ou globais suficientes para regulamentar a «imortalidade digital», o que dá aos produtores espaço para tomar decisões discricionárias sobre como desenvolver e operar esses serviços.
Órgãos reguladores e políticos começaram a prestar atenção ao tema; Nowaczyk-Basinska afirmou que ela e seu colega Tomasz Hollanek apresentaram recomendações a políticos no Reino Unido sobre robôs que simulam pessoas falecidas. No entanto, o material não apresenta um marco regulatório vigente nem um padrão unificado que possa ser aplicado internacionalmente.
Leitura da certi.news: A importância dessa questão não está apenas na capacidade da inteligência artificial de imitar o estilo de uma pessoa falecida, mas em transferir uma decisão sensível do âmbito da família e da memória para plataformas comerciais que administram dados extremamente privados. As opiniões dos especialistas mostram que os pontos decisivos na prática são: a pessoa falecida deixou instruções claras? Quem tem o direito de tomar a decisão na ausência delas? Como a plataforma impede manipulação, publicidade ou conversas nocivas? E quando o usuário pode interromper a experiência ou excluí-la? O material não oferece respostas definitivas a essas perguntas, mas mostra que sua ausência não é um detalhe técnico, e sim uma lacuna de governança que afeta a privacidade, a saúde mental e os direitos da família.