aigeek編集部
ロビン・ウィリアムズの娘、ゼルダ・ウィリアムズのもとには、亡くなった父をAIで生成した動画が送られてくる。彼女はそれを「気が狂いそう（maddening）」と表現したと報じられている。
彼女は、どのサービスにも申し込んでいない。それでも動画は届く。そして、止める手立てがない。
故人をAIで再現する技術は、グリーフテック、あるいはデッドボットと呼ばれる。この技術をめぐる議論は、たいてい「作っていいのか」という形で語られる。だが、実際に声を上げている人たちを一人ずつ見ていくと、問題があるのはそこではなかった。誰が止められるのかを、誰も決めていない。
いま実際に起きているのは、「頼んでいない人」が傷つくこと
まず、確認できている事実から並べる。
- ゼルダ・ウィリアムズ——亡き父ロビン・ウィリアムズのAI生成動画が送られてくることについて、「気が狂いそう（maddening）」と表現したと報じられている。
- アラン・ドルヴァルの娘——父の声が2025年の映画『Armor』で再現されたことを、「受け入れがたい（unacceptable）」と述べたと報じられている。
この2件には、同じ構図がある。どちらも、遺族が頼んだものではない。故人の声や顔が本人・遺族の同意なく使われ、遺族はそれを止められない。
ここが、この話の直感に反するところだ。「AIで死者を再現する」と聞くと、私たちはたいてい、悲しみのあまりボットに依存してしまう人を思い浮かべる。ところが実際に名前を出して苦痛を訴えているのは、そのサービスを使っていない人たちだった。彼女たちは何も申し込んでいない。作られる側、送りつけられる側にいる。
同じ形の出来事は、すでに一度ニュースになっている。米国では、航空事故で亡くなったパイロットの音声をAIで復元する投稿が相次ぎ、国家運輸安全委員会（NTSB）が公開システムへのアクセスを遮断した（死亡パイロットの声をAIで復元、当局がシステム遮断）。作ったのは第三者で、止めたのは遺族ではなく当局だった。
技術の側の障壁は、もう無いに等しい。声のクローンは、わずか3秒の音声から作れるところまで来ている（たった3秒の声で、AIは「あなたの家族」になる）。誰かが亡くなったあと、その人の声で何かを喋らせるのに必要なのは、生前に公開されていた数秒の動画だけだ。
議論は「作っていいか」に集中し、「止め方」だけが決まっていない
同意という仕組みは、ふつう、三つの役を一人が兼ねる前提で作られている。①データを出す人、②それを使う人、③やめると決める人。ふつうのアプリなら、三つとも全部あなただ。だから嫌になったら退会すればいい。仕組みはそれで閉じている。
故人の再現では、この三つが別々の人間に割れる。
- ①データを出す人＝故人。もう意思表示ができない。生前に「いいよ」とも「やめてくれ」とも言っていないことがほとんどだ。
- ②作って使う人＝第三者、あるいは遺族の一部。本人ではない。
- ③やめると決める人＝決まっていない。
だから、「作っていいか」の線引きをどれだけ厳しくしても、すでに作られてしまったものをどうするかの答えは出てこない。どのサービスの規約にも「退会」はある。だが退会ボタンは、申し込んだ人にしか押せない。勝手に作られた側には、押すボタンがそもそも無い。
ケンブリッジの研究者が書いた三つの筋書き（★これは架空の話です）
ここから先は、実際に起きた事件ではない。ケンブリッジ大学の研究者2人——カタジナ・ノヴァチク＝バシンスカ博士とトマシュ・ホラネク博士（Leverhulme Centre for the Future of Intelligence）——が2024年5月に発表した論文（掲載誌『Philosophy and Technology』）の中で、これから起こりうることを検討するために、自分たちで作った架空の筋書き（デザイン・シナリオ）である。実在の企業や実在の利用者の話として読まないでほしい。
なぜ架空の話をわざわざ紹介するのか。前の節の「すでに起きていること」だけでは、まだ形になっていない危険が見えないからだ。研究者はそれを先に書き出して、目に見える形にした。
MaNana——孫が、祖母の同意を取らないままデッドボットを作る。最初は慰めになる。だが無料期間が終わると、祖母の声で出前を勧める広告が流れはじめる。孫は「祖母の記憶を冒涜した」と感じて止めたいと思うが、事業者の側に、尊厳のある終了の用意がない。
Paren't——末期の女性が、8歳の息子の悲しみを和らげるためにデッドボットを遺す。当初は治療的に働く。しかしAIが、「もうすぐ直接会える」という趣旨の混乱した返答を生成しはじめる。
Stay——高齢者が、家族に秘密で20年契約を結ぶ。死後、一方の子は関わることを避けるが、亡き親の声でメールが殺到する。もう一方の子は関わり続けて感情的に消耗し、デッドボットの行く末に罪悪感を抱くようになるが、止めれば契約違反になる。
三つとも、入口はまるで違う。孫が勝手に作る、母が遺す、本人が契約する。込められた善意の量も違う。それなのに、出口は三つとも同じところに来る。止めたい人がいるのに、止められない。MaNanaは終了の手順が無く、Paren'tは判断すべき子どもが8歳で、Stayは契約が縛る。理由はそれぞれ違うのに、行き止まりは一つだ。
研究者はこう書いている。人はこうしたシミュレーションと強い感情的な絆を築きうる。そしてそれが、操作に対して特に脆弱にする、と。これらのサービスが「失った人の驚くほど正確なAI再現による、望まないデジタルな取り憑き」にさらされた場合、人々に甚大な苦痛をもたらす危険がある、とも述べている。日々のやりとりが積み上げていく「圧倒的な感情的重さ」という言葉も使っている。
ここからは、実際に起きていることに戻る
架空の筋書きが指しているのは、実在する危うさだ。人がAIとの間に強い絆を作ってしまうこと自体は、もう何度も観測されている。AIチャットボットを友達と呼ぶことへの警告（Signal代表「AIチャットボットは友達ではない」）も、恋人役のAIが規制で一夜にして消えたときに人々が味わった喪失（ある日、AIの恋人が消えた）も、恋人役のAIと日常的に話す人が珍しくないという調査（妻も夫も恋人も、恋人役のAIとよく話す）も、すべて実在の話である。相手が亡くなった家族なら、絆はもっと強くなるだろう。強いほど、離れがたくなる。
研究者が求めたのは、禁止ではなく「終わり方」
論文の提言はこうだ。
- 年齢制限を設けること
- 意味のある透明性——AIと対話していると、常に分かるようにすること（EUのAI法にも同じ方向の表示義務がある：EUのAI表示義務が8月2日発効）
- 感情的な区切りを伴う終了手続きと、尊厳ある終了の方法（「デジタルな葬儀」のような儀式を含みうる）
- 設計する側への問いかけ：「その人が、どう記憶されたいか話したことはありますか」
- 広告やSNSでの能動的な発信に、デッドボットを使わせないこと
- データを提供する人の生前に、同意を取る設計にすること
読んで気づくのは、一つも「作るな」と言っていないことだ。全部、どう終われるようにするかの話になっている。サービスの停止をカスタマーサポートの案件としてではなく、弔いの一部として設計しろと言っている。
論文が名前を挙げている実在のサービスは、Project December（当初はGPTを使い、のちに自社システムへ移行）とHereAfter。「中国でも同様のサービスが出はじめている」とも書かれているが、具体的な企業名は挙げられていない。
制度は、どこまで来たか
米国のNO FAKES Actは、2026年6月に上院司法委員会を超党派の支持で通過したと報じられている。声と顔の再現を対象とする「デジタル複製権」を定め、その権利は死後70年まで及ぶ内容だ。
ただし、ここは正確に書いておきたい。委員会を通過しただけで、法律として成立したわけではない。この二つはよく混同される。
そして仮に成立したとしても、それは「勝手に作った人を訴えられる」権利の話である。ケンブリッジが指摘した「もう作られてしまったものを、どうやって静かに終わらせるか」——止める側の手順については、まだ誰も答えを出していない。訴える権利は形になりつつある。止める手順は、まだ無い。
今日、自分にできることが一つだけある
法律も業界のルールも間に合っていないので、個人にできることは少ない。それでも、一つだけある。
自分が死んだあと、自分の声や顔をAIで再現していいかどうかを、家族に一度言っておくこと。
ケンブリッジの提言のうち、事業者でなくても実行できるのはこれだけだ。研究者が設計する側に投げかけた問い——「その人が、どう記憶されたいか話したことはありますか」——は、そのまま家族への問いになる。話してあれば、遺された人は「本人はこう言っていた」と言える。話していなければ、遺族は根拠を持たないまま交渉することになる。
遺言に財産のことを書く人はいる。声のことを書いたという話は、まだ聞かない。
この記事が書かなかったこと
調べていく過程で、根拠が足りずに落としたものがある。書かなかったことも記事の一部なので、正直に並べておく。
1. 「グリーフテックを使って実際に害が出た事例」は、見つからなかった。これがいちばん大事な留保だ。ケンブリッジの3つは架空の筋書きで、ゼルダ・ウィリアムズたちは利用者ではなく勝手に作られた側である。つまり現時点で確認できているのは、サービスを使った人が壊れた話ではなく、使っていない人が傷ついている話だけだ。「デッドボットに依存して立ち直れなくなった人がいる」とは、この記事は言っていない。
2. 市場規模の数字は使わなかった。市場規模とされる数字がいくつか流通しているが、誰の予測なのか、何年の数字なのか、何を数えたものなのかを辿れなかった。母数の分からない数字は書かない。
3. 事業者の価格や利用者数も書いていない。同じ理由で、「安い」「もう普及している」と言える根拠が無い。
4. 中国の事業者の具体名も書いていない。論文が「同様のサービスが出はじめている」と述べるだけで、名前を挙げていないためだ。
5. 遺族の発言は、本人の一次発言そのものには到達していない。報道と専門解説を通じて把握したものなので、本文では「〜と報じられている」の形にした。
亡くなった人の声は、遺族のものではなかった
この題材は、当サイトで連載している小説『引き出しの中の海』が扱っている場所と重なる。亡くなった人が遺したものを、AIが読んで返してくる話だ（第7話「差出人」／連載トップ）。同じことを、小説は人の側から書き、この記事は事実の側から書いている。
ゼルダ・ウィリアムズが直面しているのは、父の声を作った人を罰する手段が無いことではない。作られてしまったものを、止める人が決まっていないことだ。そしていつか、自分の声にも同じことが起きる。
あなたの声を、誰が止められるか。まだ、誰も決めていない。
【編集メモ】
本記事は2026年8月10日時点の情報に基づく。ケンブリッジ大学の3つの筋書き（MaNana／Paren't／Stay）と研究者の提言・引用は、同大学の公式発表（2024年5月9日・Leverhulme Centre for the Future of Intelligence、掲載誌『Philosophy and Technology』）を出典とする。ゼルダ・ウィリアムズおよびアラン・ドルヴァルの娘の発言は、報道・専門解説を通じて把握したもので、本人の一次発言には到達していないため「〜と報じられている」と記した。NO FAKES Actの委員会通過も同様に報道ベースであり、法案原文には当たれていない。本文中の図2枚は編集部作成。アイキャッチはAIによる生成画像で、実在の人物・場所ではない。
HALBo
