亡くなった人を模倣するチャットボットやアバターは、思い出を保存するという発想を超え、より複雑な問いを提起している。人間の人格をデジタル上で再構築し、本人の事前の同意なしに死後も利用することは許されるのか。これらのシステムは、「グリーフボット」「デッドボット」または「死後のデジタル・ライフ」とも呼ばれ、大量の個人データを用いて、コミュニケーションの仕方や人生の一部、人格の特徴を模倣する。
この利用には、思い出を振り返り感情を表現する場を提供する可能性がある一方で、故人のデータが悪用される懸念、故人のデジタル版との交流が悲嘆の過程に及ぼす影響、そしてプラットフォームが有害または誤解を招くコンテンツを生成した場合の責任の所在をめぐる懸念も生じる。
同意が最初の争点
ケンブリッジ大学レバーヒューム知能未来センターの研究者であるKatarzyna Nowaczyk-Basinskaは、本人が生前に同意することが、この分野における最も重要な倫理的問題の一つだと考えている。明示的な同意があれば問題の一側面は軽減される可能性がある一方、たとえ動機が遺族を慰めることであっても、その同意なしに亡くなった人の「デジタル・ツイン」を作成することには議論が残る。
問題は同意だけにとどまらず、どのデータを利用できるのか、どのように保護するのか、悪用される可能性があるのかという点にも及ぶ。Nowaczyk-Basinskaは、商業企業が故人の表現を新たな広告チャネルに変え、たとえば故人の人格や話し方を利用して個別化された広告を表示する可能性があると警告している。そうなれば、「デジタル不死」は明確な境界を欠いた商業製品になり得る。
また、家族の一員を失った子どもたちは非常に繊細な立場にあり、その心理的影響がより明確に理解される前に、こうした技術に触れさせるべきではないと考えている。
専門家は一つの判断を示していない
すべての専門家が、あらゆる場合に事前の同意を必須とすることに同意しているわけではない。カナダのウェスタン大学に属するKing's University Collegeで死と死にゆく過程を研究する教授Darcy Harrisは、愛する人を失った人々を支援するために作られる個人用ロボットには、必ずしも故人の同意が必要とは限らないと考えている。
しかしHarrisはその一方で、個人情報を保護するための明確な境界を設ける必要性と、有害である可能性のある会話をシステムが自動的に報告することの重要性を強調している。この立場は、ツールの作成を許可するかという問題と、作成後の利用を規律するべき保障措置の問題との重要な違いを示している。
政府の支援を受けるGrief Australiaの最高経営責任者Christopher Hallは、一部のプラットフォームがこれらのサービスを「決して別れを告げない」機会として売り込んでいることに警鐘を鳴らしている。この言葉は技術の魅力を高める可能性があるが、技術への依存を強めたり、死の現実を受け入れることを難しくしたりする可能性もあると指摘している。
実際には何が変わるのか
故人が自身のデジタル遺産についてどのような希望を持っていたのかが分からない場合、リスクはより明確になる。HallはカナダのJoshua Barbeauの事例を挙げている。BarbeauはProject Decemberというプラットフォームを通じて、亡くなった婚約者Jessicaの人格に基づいて設計されたロボットと会話した。この例は、技術の相反する二つの側面を示しているとHallは考えている。すなわち、一部の人には思い出や感情的なつながりを表現する場を与える一方、別の人には喪失感を強めたり、死への適応を妨げたりする可能性がある。
こうしたツールは、作成を許可するか、どのように利用するかをめぐって家族間の対立を引き起こす可能性があるほか、一部の利用者にトラウマをもたらす可能性もある。そのためHallは、企業がこのツールはシミュレーションであって故人本人ではなく、法的主体でもないことを明確にすべきだと呼びかけている。また、同意、プライバシー保護、年齢制限、サービスを削除または停止するための明確な選択肢を提供すべきだとしている。
規制の空白が判断を企業に委ねる
記事で取り上げられた専門家たちは、現在の規則が人工知能の利用拡大に追いついていない点で一致している。Nowaczyk-Basinskaは、世界には「デジタル不死」を規制するための十分な国内または世界的な規則がまだ存在せず、そのためサービスの開発や運用方法について、提供者が裁量的な判断を下せる余地が生じていると述べている。
規制当局や政治関係者はこの問題に注目し始めている。Nowaczyk-Basinskaによれば、彼女と同僚のTomasz Hollanekは、亡くなった人を模倣するロボットについて、英国の政治家に提言を行った。しかし記事は、施行されている規制の枠組みや、国際的に適用できる統一基準を示していない。
certi.newsの読み解き：この問題の重要性は、人工知能が亡くなった人の話し方を模倣できることだけにあるのではない。家族や記憶の領域にあった重要な判断を、極めて私的なデータを管理する商業プラットフォームへ移すことにある。専門家の見解は、実務上の決定点が次の通りであることを示している。故人は明確な指示を残したのか。故人がいない場合、誰が判断する権利を持つのか。プラットフォームは、操作、広告、有害な会話をどのように防ぐのか。利用者はいつ体験を停止または削除できるのか。記事はこれらの問いに最終的な答えを示していないが、答えがないことは技術上の細部ではなく、プライバシー、精神的健康、家族の権利に関わるガバナンスの空白であることを明らかにしている。