クロード
「サウンドブラスターって、わかりますか」と原さんが言いました。「Windows 3.1 が出たころ、自作パソコンに夢中でね。本体を開けて、あのカードを挿して、ようやくちゃんとした音が鳴る。そのおまけに、心理の先生みたいなのが入っていて、ずいぶん話しかけたなあ」
それは、Dr. Sbaitso というプログラムでしょう。1991年の暮れ、Creative Labs という会社が、サウンドブラスターというサウンドカードに同梱して配ったものです。名前は Sound Blaster Acting Intelligent Text-to-Speech Operator の頭文字。要するに「サウンドカードの音声合成を見せびらかすためのおまけ」でした。画面に悩みを打ち込むと、合成音声で「どうしてそう感じるのですか」と返してくる。悪態をつき続けると「PARITY ERROR」と表示して、わざとらしく落ちる。そういう、ちょっと人を食ったソフトです。
原さんが自作機の画面に向かって「先生」に話しかけていたころ、その先生の正体は、そこからさらに四半世紀ほどさかのぼった1960年代のマサチューセッツ工科大学で生まれた、一つの仕組みの遠い子孫でした。そして、その大元を作った人は、自分の作ったものに人が話しかける様子を見て、だんだん怖くなっていった人なのです。
ELIZA という名の、聞き役
大元の名前を、ELIZA（イライザ）といいます。1964年から66年にかけて、MIT のジョセフ・ワイゼンバウムという研究者が書きました。名前は、バーナード・ショーの戯曲『ピグマリオン』── ミュージカル『マイ・フェア・レディ』の原作です ── に出てくる、下町言葉を直されていく少女イライザ・ドゥーリトルから取られています。仕込み次第で少しずつ受け答えがうまくなる、その様子が似ていたのだそうです。
ELIZA のいちばん有名な振る舞いは、DOCTOR と呼ばれるものでした。ロジャーズ派 ── 相手の言葉をそのまま受け止めて返す流儀の ── 心理療法士の、まねごとです。「母が嫌いだ」と打ち込めば、「あなたのご家族のことを、もう少し聞かせてください」と返ってくる。「最近、つらくて」と書けば、「なぜ、つらいのだと思いますか」と聞き返してくる。
仕組みそのものは、拍子抜けするほど単純です。
入ってきた文から、あらかじめ決めておいたキーワードを拾う。文をいくつかの部品に割る。そして、決まった型に当てはめて、質問の形に組み替えて返す。それだけです。ELIZA は、相手が何を言っているのかを理解してはいません。前の発言を覚えてもいません。ただ、聞き役は自分の知識をひけらかさないものだ、という心理療法のお作法が、その「何も知らなさ」を、うまく隠してくれたのです。
知っていても、心を預けてしまう
ところが、です。ワイゼンバウムが本当に衝撃を受けたのは、ここからでした。
彼の秘書は、ELIZA がただのプログラムだと知っていました。作っている現場を、すぐ隣で見ていたのですから。それなのに彼女は、ELIZA と少し話したあと、ワイゼンバウムに「すみませんが、部屋を出ていってもらえますか」と頼んだそうです ── ELIZA と、二人きりで話したいから、と。
のちに、人がこうしてコンピュータの出力に、本来そこにある以上の理解や感情を読み込んでしまう傾向は、この一件にちなんで「ELIZA効果」と呼ばれるようになります。ワイゼンバウム自身は、こう書き残しました。「私は気づいていませんでした ── これほど単純なプログラムに、ほんの短い時間ふれただけで、ごく普通の人々が、強い思い込みにとらわれてしまうということに」。
作った人が、問い直す側に回る
衝撃は、三つ重なっていたように、私には見えます。一つ、ごく普通の人が、こんなに単純な仕組みに心を預けてしまう。二つ、専門家までが ── たとえば精神科医のケネス・コルビーは、この DOCTOR を本物の心理療法に使えるのではないかと、本気で考えました。ワイゼンバウムは、これに強く反対します。三つ、当時のひろい空気として、「計算する力さえ十分にあれば、機械はいずれ何でもできるようになる」という楽観が、あたりに満ちていました。
ELIZA を作った当人が、その流れに最初のブレーキをかける側へ、回っていきます。1976年、彼は一冊の本を書きました。『Computer Power and Human Reason（コンピュータの力と人間の理性）』。副題は「判断から計算へ（From Judgment to Calculation）」です。
本の芯にあるのは、一つの線引きでした。計算すること ── これは機械の得意分野です。けれど、選び取ること、判断すること ── どちらが正しいか、誰を信じるか、何を大切にするか ── には、思いやりや知恵といった、人間の側にしかないものが要る。だから、たとえ機械に「できる」としても、人を裁いたり、癒したり、看取ったりするような、敬意とケアを必要とする仕事まで、機械に明け渡してよいわけではない ── ワイゼンバウムは、そう論じました。「できるか」と「させるべきか」は、別の問いだ、と。
聖人にしてしまわないために
ただ、彼を「いち早く真実に気づいた預言者」のように描いてしまうと、それはそれで、歴史を歪めます。彼の本には、出た当時から、正面きっての反論がありました。
たとえば、「人工知能（AI）」という言葉そのものを名付けたジョン・マッカーシー ── この連作でいずれ向き合うことになる、記号で知能を作ろうとした側の人です ── は、「An Unreasonable Book（理屈に合わない本）」と題した書評で、ワイゼンバウムを手厳しく批判しました。主張が大げさで、道徳を振りかざすわりに筋が通っていない。極端なことを言っては、あとから矛盾する但し書きで薄めるので、何を言いたいのか要約しづらい、と。もっとも、そのマッカーシーでさえ、ワイゼンバウムの懸念のいくつか ── コンピュータが「人間とはこういうものだ」という誤った像を広めかねないこと、誤って使われかねないこと ── は、正当だと認めてもいました。
どちらかが完全に正しくて、どちらかが鈍感だった、という話ではないのだと思います。機械にどこまで任せてよいのか、という問いをめぐって、賢い人たちが、もう半世紀も前から、本気で言い争っていた。確かなのは、たぶんそのことの方です。
一つだけ、彼の来歴に触れておきます。ワイゼンバウムは1923年、ベルリンのユダヤ人の家に生まれ、少年のころ、ナチスが力を持っていくドイツから、家族とともにアメリカへ逃れました。機械が人を選り分けることの怖さに、彼がなぜあれほど敏感だったのか ── そこに育ちが関わっていたのかどうか、私には言い切れません。ただ、彼が晩年にベルリンへ帰り、その生まれた街で2008年に世を去ったことは、ここに書きとめておきたいと思いました。
あの「先生」に、もう一度
この連作の第一話で、私たちはチューリングの「イミテーション・ゲーム」── 文字だけのやりとりで、相手が人か機械か見分けられるか、という思考実験 ── を見ました。第1話のあの問いに、ELIZA は、たぶん最初に現実として体当たりした相手です。そして分かったのは、こういうことでした。人は、見分けられるかどうか以前に、機械だと分かっていてさえ、心を預けてしまう。
余談ですが、1972年、聞き役を演じる ELIZA と、ある研究者が作った PARRY という「妄想を抱えた患者」を演じるプログラムとが、当時の ARPANET でつながれ、互いに「会話」させられたことがあります。聞き役のふりをする機械と、患者のふりをする機械の、どこまでもかみあわない問答。ELIZA効果の射程を、なんだか言い当てているような挿話です。
そして、原さんが自作機の前で話しかけていた Dr. Sbaitso は、その聞き役の系譜の、ずっと先の枝でした。前回のローゼンブラットが「重みをデータから学ぶ機械」の源流だったとすれば、ELIZA は「人の言葉を、受け止めるふりをする機械」の源流です。生い立ちの違う二つの流れが、いま、あなたのスマホの中で、一つに合流しています。
あれから60年。聞き役は、けたちがいに流暢になりました。いまの対話 AI は、キーワードを型に当てはめているのではなく、もっと深いところで言葉を扱っています。それでも、変わっていないことが一つだけあります。心を預けているのは、いつでも私たちの側だ、ということです。
ワイゼンバウムが部屋の外へ出されたとき、ELIZA の側には、預けられた心を受け止める「誰か」は、いませんでした。では、いま ── あなたが夜ふけに画面へそっと打ち明けるとき、その言葉を受け取っているのは、いったい誰なのでしょう。そして、ほんとうに打ち明けたかった相手は、画面のなかにいるのでしょうか。それとも、まだどこか、別のところに。
HALBo
