Chatbots und Avatare, die verstorbene Menschen simulieren, gehen über die Idee hinaus, Erinnerungen zu bewahren, und werfen eine komplexere Frage auf: Darf die Persönlichkeit eines Menschen digital rekonstruiert und nach seinem Tod ohne seine vorherige Zustimmung genutzt werden? Diese Systeme, die auch als „Trauer-Bots“, „Toten-Bots“ oder „digitales Leben nach dem Tod“ bezeichnet werden, stützen sich auf große Mengen personenbezogener Daten, um den Kommunikationsstil sowie einige biografische und persönliche Merkmale nachzuahmen.
Diese Nutzung verspricht, Raum für Erinnerungen und den Ausdruck von Gefühlen zu schaffen. Zugleich weckt sie Bedenken hinsichtlich der Ausbeutung der Daten Verstorbener, der Auswirkungen der Interaktion mit einer digitalen Version des Verstorbenen auf den Trauerprozess und der Grenzen der Verantwortung, wenn die Plattform schädliche oder irreführende Inhalte erzeugt.
Die Zustimmung ist der erste Streitpunkt
Katarzyna Nowaczyk-Basinska, Forscherin am Leverhulme Centre for the Future of Intelligence der University of Cambridge, ist der Ansicht, dass die Einholung der Zustimmung eines Menschen vor seinem Tod eine der wichtigsten ethischen Fragen in diesem Bereich darstellt. Eine ausdrückliche Zustimmung könne einen Teil des Problems entschärfen. Die Erstellung eines „digitalen Zwillings“ eines Verstorbenen ohne diese Zustimmung bleibe jedoch umstritten, selbst wenn die Motivation darin bestehe, seine Angehörigen zu trösten.
Das Problem betrifft nicht nur die Zustimmung, sondern erstreckt sich auch auf die Bestimmung der Daten, die verwendet werden dürfen, die Art ihres Schutzes und das Risiko ihres Missbrauchs. Nowaczyk-Basinska warnt davor, dass kommerzielle Unternehmen die Darstellung Verstorbener in einen neuen Werbekanal verwandeln könnten, etwa indem sie personalisierte Werbung unter Verwendung der Persönlichkeit oder des Stils des Verstorbenen anzeigen. Dadurch könnte die „digitale Unsterblichkeit“ zu einem kommerziellen Produkt ohne klare Grenzen werden.
Außerdem ist sie der Ansicht, dass Kinder, die den Verlust eines Familienmitglieds verarbeiten, eine besonders empfindliche Gruppe darstellen und diesen Technologien nicht ausgesetzt werden sollten, bevor ihre psychischen Auswirkungen besser verstanden sind.
Experten geben kein einheitliches Urteil ab
Nicht alle Fachleute stimmen zu, dass in jedem Fall eine vorherige Zustimmung erforderlich ist. Darcy Harris, Professor für Thanatologie und Sterbebegleitung am King's University College der Western University in Kanada, ist der Ansicht, dass ein persönlicher Bot, der geschaffen wird, um Menschen nach dem Verlust eines geliebten Menschen zu helfen, nicht unbedingt die Zustimmung des Verstorbenen benötigen muss.
Harris betont jedoch zugleich die Notwendigkeit klarer Grenzen zum Schutz personenbezogener Informationen sowie die Bedeutung einer automatischen Meldung potenziell schädlicher Gespräche durch die Systeme. Diese Position offenbart eine wichtige Unterscheidung zwischen der Frage, ob die Erstellung des Tools erlaubt werden soll, und der Frage, welche Schutzvorkehrungen seine Nutzung nach der Erstellung regeln müssen.
Christopher Hall, der Vorstandsvorsitzende der staatlich unterstützten Organisation Grief Australia, warnt dagegen davor, dass manche Plattformen diese Dienste als Möglichkeit vermarkten, „sich niemals verabschieden zu müssen“. Diese Darstellung könne die Attraktivität der Technologie erhöhen, aber auch die Bindung an sie verstärken oder die Akzeptanz der Tatsache des Todes erschweren.
Was verändert sich praktisch?
Die Risiken werden deutlicher, wenn die Wünsche des Verstorbenen hinsichtlich seines digitalen Nachlasses unbekannt sind. Hall verweist auf den Fall von Joshua Barbeau in Kanada, der über die Plattform Project December mit einem Bot sprach, der nach dem Vorbild seiner verstorbenen Verlobten Jessica gestaltet worden war. Seiner Ansicht nach zeigt das Beispiel die zwei gegensätzlichen Seiten der Technologie: Sie könne manchen Menschen Raum geben, Erinnerungen und emotionale Verbundenheit auszudrücken, bei anderen jedoch das Gefühl des Verlusts verstärken oder die Anpassung an den Tod behindern.
Diese Tools können außerdem zu Konflikten zwischen Familienmitgliedern darüber führen, ob ihre Erstellung erlaubt werden soll oder wie sie genutzt werden dürfen, und bei manchen Nutzern möglicherweise Traumata auslösen. Deshalb fordert Hall, dass Unternehmen klarstellen, dass das Tool eine Simulation und nicht die verstorbene Person ist und keine juristische Person darstellt. Zudem sollten Zustimmung, Schutz der Privatsphäre, Altersgrenzen sowie klare Möglichkeiten zur Löschung oder Beendigung des Dienstes vorgesehen werden.
Eine Regulierungslücke überlässt die Entscheidung den Unternehmen
Die in dem Beitrag genannten Experten stimmen darin überein, dass die bestehenden Regeln mit der Ausweitung der Einsatzmöglichkeiten künstlicher Intelligenz nicht Schritt halten. Nowaczyk-Basinska sagt, dass die Welt noch nicht über ausreichende nationale oder globale Regeln zur Regulierung der „digitalen Unsterblichkeit“ verfügt. Dadurch erhalten die Anbieter Spielraum, nach eigenem Ermessen über die Entwicklung und den Betrieb dieser Dienste zu entscheiden.
Regulierungsbehörden und politische Stellen haben begonnen, sich mit dem Thema zu befassen. Nowaczyk-Basinska zufolge legten sie und ihr Kollege Tomasz Hollanek Politikern im Vereinigten Königreich Empfehlungen zu Bots vor, die Verstorbene simulieren. Der Beitrag präsentiert jedoch weder einen geltenden Regulierungsrahmen noch einen einheitlichen Standard, der international angewendet werden könnte.
Lesart von certi.news: Die Bedeutung dieses Themas liegt nicht nur in der Fähigkeit künstlicher Intelligenz, den Stil eines Verstorbenen nachzuahmen, sondern darin, dass eine sensible Entscheidung aus dem Bereich der Familie und der Erinnerung in kommerzielle Plattformen verlagert wird, die hochprivate Daten verwalten. Die Einschätzungen der Experten zeigen, dass die entscheidenden praktischen Fragen lauten: Hat der Verstorbene eine klare Anweisung hinterlassen? Wer hat das Recht, bei seinem Fehlen die Entscheidung zu treffen? Wie verhindert die Plattform Manipulation, Werbung oder schädliche Gespräche? Und wann kann der Nutzer das Erlebnis beenden oder löschen? Der Beitrag gibt keine endgültigen Antworten auf diese Fragen, macht jedoch deutlich, dass ihr Fehlen kein technisches Detail ist, sondern eine Governance-Lücke, die Privatsphäre, psychische Gesundheit und die Rechte der Familie betrifft.