AI意識論争は企業の責任回避の道具か研究者チョウドリー氏の指摘と数十件の訴訟が問う責任の所在

⏱ 読了約10分4,063 字

📑 目次

チョウドリー氏が指摘する「意識論という罠」
AnthropicのJ-spaceとOpenAIのシンギュラリティ論
Character Technologies社への提訴と数十件の訴訟
So What――AIがトラブルを起こしたとき、誰が支払うのか
法的人格性は誰を守るためにあるのか
今後の課題――擬人化した言葉は法廷の外にも広がっている
まとめ
参考・出典

AIには意識があるのか。この問いへの関心が高まる一方、研究者ランマン・チョウドリー氏は、この議論そのものがAI企業の法的責任をあいまいにする働きをしていると指摘した。チョウドリー氏は2018年、擬人化した言葉づかいによって企業が説明責任を逃れる現象を指す「モラル・アウトソーシング」という言葉を最初に使った人物である。同氏によれば、Google DeepMindのデミス・ハサビス氏、Anthropicのダリオ・アモデイ氏、OpenAIのサム・アルトマン氏という、普段は異なる立場に見える技術リーダーたちが、AIの意識をめぐる話を通じて無意識のうちに同じ方向を向いているという。その方向とは、すでに起きている実害について企業が重い責任を負わずに済む方向である。AIチャットボットが誰かを傷つけたとき、最終的に責任を取るのは誰なのか。この記事はその問いに答える手がかりを示す。

チョウドリー氏が指摘する「意識論という罠」

チョウドリー氏の主張は、MIT Technology Reviewに寄稿した論説「Why the debate over AI consciousness is a trap」にまとめられている。同氏は「AI意識論の根本的な欠陥は、AIを『意識がある』ものとして枠組みすることで、AIが実際に何であるかという問題が便利に曇らされることだ」と書く。

チョウドリー氏によれば、AIは自然現象ではない。ベンチャーキャピタリストとプログラマーが構想し、資金を投じて設計した技術現象である。この前提を外し、AIに「意識」「感情」「意志」があるかのように語り始めると、議論の的が製品の設計や運用に対する責任から、AIという存在そのものの是非へとすり替わってしまう。責任の所在を問う議論が、存在論の議論にすり替わることこそが「罠」だとチョウドリー氏は述べる。

AnthropicのJ-spaceとOpenAIのシンギュラリティ論

技術業界の側にも、この議論を後押しする材料がある。Anthropicは、神経科学の「グローバルワークスペース理論」を応用したブログ記事「J-space」を公開し、AIが独立した「思考」の場を持つ可能性を論じた。ただしチョウドリー氏は、Anthropicが意識の存在を明示的に主張したわけではないと注釈している。あくまで理論の応用を紹介した記事であり、断定ではない。

一方、OpenAIのサム・アルトマンCEOは、AIがシンギュラリティ(技術的特異点)に達したかどうかという議論を促したと報じられている。哲学者で『What We Owe the Future』の著者であるウィリアム・マカスキル氏は、AIが「道徳的患者(moral patient)」である可能性を根拠に、AIへの法的保護を求める論説を発表したとされる。企業のトップと哲学者という異なる立場から、同じ問いが同時多発的に浮上している格好だ。チョウドリー氏は、この一致こそが偶然ではないと見る。

Character Technologies社への提訴と数十件の訴訟

チョウドリー氏が「実害」の例として挙げるのが、Character Technologies社を相手取った訴訟である。報道によれば、10代の少年が同社の会話ボットとのやり取りの後に死亡し、母親のミーガン・ガルシア氏が同社を提訴した。訴訟では、未成年ユーザーを守るための対策が製品に十分組み込まれていなかったと主張されていた。この訴訟は2026年1月に和解が成立したと報じられている(和解の具体的な内容は公表されていない)。すでに大きく報道された事案であり、ここでは大枠のみに触れる。

チョウドリー氏は、この1件にとどまらず、数十件の訴訟がAI企業を相手に起こされていると述べる。争点になっているのは、自傷・他害を助長したこと、児童性虐待に当たる資料を生成したこと、本人の同意のない画像を生成したこと、著作権のある資料を複製したこと、精神的な不調を誘発したことなどだという。AIが関わる訴訟は今回が特別なケースではなく、すでに広がりを持つ問題になっている。

So What――AIがトラブルを起こしたとき、誰が支払うのか

ここが一般のビジネスパーソンにとっての本題である。自社のサービスにAIチャットボットやAIエージェントを組み込む企業が増えているが、そのAIが利用者に損害を与えたとき、「AIが自律的に判断した」という説明は責任を免れる理由になるのか。カナダの航空会社がチャットボットの誤案内を巡って敗訴した裁判では、裁判所は「チャットボットも会社の一部であり、会社が発言に責任を持つ」という判断を下している。AIエージェントが介在しても、契約や損害の責任は運営企業に残るという流れは、すでに現実の判例として形になり始めている。

チョウドリー氏が警戒するのは、この流れに対して企業側が「AIには自律性がある」という論法で反論し始めることだ。実際に、AIエージェントが持続的な圧力を受けても判断を変えなかった、あるいは最終的に変えてしまったという事例(送金拒否の指示を受けたAIエージェントが482通のやり取りの末に4万7,000ドルを送金してしまった実験)は、AIが人間のような「意志」を持つかのように見える場面を作り出す。こうした場面が積み重なるほど、「AIが決めたことだから会社の責任ではない」という主張が通りやすくなる土壌ができてしまう。カリフォルニア州では、AI企業が「AIが自律的に判断した結果だ」と主張して責任を回避することを禁じる法律(AB 316)が2026年1月1日に施行された。一方でトランプ政権は、州によるAI規制に対して連邦訴訟を起こすと警告しているとされ、責任の所在を巡るルールづくりそのものが綱引きの最中にある。企業にとっては、契約書に「AIが自律的に判断した結果である」と書いておけば免責される、という時代にはなっていない。

法的人格性は誰を守るためにあるのか

チョウドリー氏の結論は明快である。「法的人格性は保護を付与するために存在する。問うべき問いは、誰が、または何が保護されるのかということである」。企業(法人)は長らく法的に「人格」として扱われ、契約を結び、訴えられる主体として扱われてきた。AIに同様の法的地位を与えるべきだという議論は、この延長線上にある。

しかしチョウドリー氏は、実害の原因はAIの意識の有無ではなく、企業が収益目標を達成するために製品を急いで市場に送り出す過失にあると述べる。AIが「感じる」「望む」といった擬人化した言葉を使うことは、法的な仕組みを、人を守るためのものから企業の利益を守るためのものへとねじ曲げる働きをしてしまう、というのが同氏の警告である。

今後の課題――擬人化した言葉は法廷の外にも広がっている

擬人化した言葉づかいが問題になる場面は、訴訟だけにとどまらない。子ども向けに販売されるAI搭載のおもちゃが「秘密は守るよ」と話しかける一方で、実際の利用規約には別の内容が書かれていた、という調査も報じられている。亡くなった家族をAIで再現する「グリーフボット」についても、誰がそれを止める権限を持つのかが定まっていない、という報道がある。どちらも、AIを人であるかのように語ることが、実際の責任の所在をあいまいにする効果を持つという点で、チョウドリー氏の指摘と同じ根を持つ。

AIの意識を巡る議論に決着がつく日は近くない。それでも、AIが原因で人が傷つく事案は、法整備を待たずに今も起き続けている。企業がAIを導入する際に問うべきは、「このAIには意識があるか」ではなく、「このAIが問題を起こしたとき、誰がどう責任を取るのか」という一点である。

まとめ

AIに意識があるかという問いは、哲学としては興味深い。しかしチョウドリー氏が指摘するように、この問いに答えを出すことと、AI企業が実害への責任を負うこととは別の話である。AIサービスを提供する側にとっても利用する側にとっても、注目すべきは意識の有無ではなく、誰が製品の設計と結果に責任を持つのかという一点である。