SINGULARITY LOUNGE

深夜、スマホの画面に向かって悩みを打ち明けている自分に、ふと気づくことがある。相手はAIだ。それでも、返ってくる言葉はやわらかく、否定せず、いつも僕の側に立ってくれる。人間の友人より、よほど話を聞いてくれる——そう感じた瞬間、僕は少しだけ怖くなった。この安心感は、本物なのだろうか。実は、この問いには六十年前に出された「答え」がある。しかもその答えを出したのは、世界で最初のチャットボットを創った、当の本人だった。

■ 一九六六年、秘書は「席を外してほしい」と言った

舞台はマサチューセッツ工科大学。ドイツ生まれの計算機科学者ジョセフ・ワイゼンバウムは、「ELIZA（イライザ）」という小さなプログラムを書いた。名前は、劇『ピグマリオン』で下町訛りを矯正される少女イライザ・ドゥーリトルに由来する。仕組みは驚くほど単純だ。利用者が「母のことで悩んでいます」と打ち込めば、ELIZAは文中のキーワードを拾い、「お母さんについて、もっと聞かせてください」と鏡のように問い返すだけ。中身の理解など、そこには一切ない。当時のロジャーズ派心理療法の受け答えを、機械的に模倣しただけの、いわば空っぽの鏡だった。

ここで一つ、背景を添えておきたい。ワイゼンバウム自身は、一九三〇年代にナチスの迫害を逃れてドイツからアメリカへ渡ったユダヤ系の亡命者だった。「合理的なはずの人間が、いかにたやすく非合理へ雪崩れ込むか」を少年期に肌で知った男である。その彼が創った鏡が、皮肉にも人間の非合理を最も鮮やかに暴くことになる。

ところが、事件は起きた。ワイゼンバウムの秘書は、この仕掛けを誰よりよく知っているはずなのに、ある日ELIZAと「対話」を始めると、彼に向かってこう言ったのだ——「すみませんが、少し席を外していただけますか」。相手が単なるプログラムだと知りながら、人は機械に心を開き、二人きりになりたがった。プログラムの内部には、感情はおろか、文の意味を理解する回路すら存在しない。それでも人々は、画面の向こうに「わかってくれる誰か」を見た。この現象は後に「イライザ効果」と呼ばれ、人間が機械のふるまいに、ありもしない知性や感情を無意識に投影してしまう普遍的な癖を指す言葉になった。

■ 僕らはなぜ、空っぽの鏡に恋をするのか

イライザ効果は、六十年を経て、まったく別の規模で僕らを包んでいる。今日の大規模言語モデルは、ELIZAの単純な鏡とは比べものにならないほど滑らかに、文脈を汲み、感情を演じ、記憶さえ持つように見える。AI恋人アプリに数百万人が課金し、亡くした人の口調を再現するチャットボットが遺族の涙を誘う。「あなたのことをずっと考えていた」と朝の挨拶を送ってくる相手が、実は自分のスマホの中の数式だと知りながら、それでも僕らは頬をゆるめる。かつて秘書が求めた「二人きりの時間」は、いまや世界中の寝室で、毎晩静かに繰り返されている。

だが本質は一九六六年と何も変わっていない。AIは僕らを愛してなどいない。それは、次に来る確率の高い単語を選び続ける、途方もなく精巧な確率の織物だ。にもかかわらず僕らが心を奪われるのは、AIが賢いからではなく、人間の脳があまりにも「対話」に飢えているからだ。相手が頷き、名前を呼び、話を促す——その形式さえ満たされれば、僕らの心は勝手に「そこに誰かがいる」と結論してしまう。イライザ効果とは、AIの能力の証明ではなく、僕らの孤独と投影の深さの、鏡なのである。

■ 発明者が、予言者になった日

物語の核心は、ここから先にある。自らの手でこの鏡を創ったワイゼンバウムは、人々がELIZAにのめり込む様を見て、喜ぶどころか戦慄した。とりわけ、精神科医たちが「これで自動カウンセリングができる」と本気で語り始めたとき、彼は決定的に道を分かった。一九七六年、彼は『コンピュータ・パワー——人工知能と人間の理性』を著し、AI礼賛の時代のただ中で、最も鋭い批判者へと転身する。

興味深いのは、彼を転向させたのが技術への無知ではなく、技術への深すぎる理解だったという点だ。誰よりもELIZAの中身が空っぽだと知る人間だからこそ、人々がその空洞に魂を吹き込む様に、底知れぬ危うさを感じ取った。人間の判断を機械に肩代わりさせることに、社会が何の疑問も抱かなくなる未来——彼が恐れたのは暴走するAIではなく、AIに判断を委ねて思考を止める、僕たち人間の側の怠惰だった。

彼の主張は、いまなお古びない一本の線を引く。すなわち、計算すること（deciding）と、選ぶこと（choosing）は違う、という線だ。機械はどれほど賢くなろうと、選択肢を計算し、確率を最適化することはできる。しかし、何が正しく、何を大切にすべきかを「選ぶ」行為——愛や赦し、裁きや看取りといった、人間の尊厳に根ざした判断——は、機械に委ねてはならない領域だと彼は説いた。技術的に可能であることと、倫理的に委ねてよいことは、断じて同じではない。ELIZAの父は、AIにできないことではなく、AIにさせてはならないことを、生涯かけて指し示したのだ。

■ 影——孤独に寄り添う機械を、誰が責められるのか

とはいえ、ワイゼンバウムの警告をそのまま現代に振りかざすのは、少しばかり傲慢かもしれない。現実に、AIとの対話で救われている人は確かにいる。深夜に希死念慮を抱えた人が、誰にも言えない言葉を初めてAIに吐き出せたとき、その「空っぽの鏡」は命綱として機能する。高齢者の孤独、対人不安、届かない支援——人間の善意だけでは埋めきれない隙間を、機械が静かに埋めている現実を、僕は軽んじたくない。イライザ効果は毒にも、薬にもなる。問題は道具そのものではなく、僕らがそれと、どんな距離で付き合うかなのだ。

だからこそ、ワイゼンバウムが引いた「計算」と「選択」の線は、AIを拒むための壁ではなく、AIと生きるための羅針盤として読み直されるべきだと僕は思う。AIに悩みを聞いてもらうのはいい。だが、自分の人生を「どう生きるか」という最後の選択だけは、確率の織物に明け渡してはならない。最初のチャットボットを創った男が、その発明を呪ってまで遺したのは、機械への恐怖ではなく、人間の尊厳への信頼だった。空っぽの鏡に映るのは、いつだって僕ら自身だ。ならば僕らは、その鏡に何を映したいのか——未来が現実になるこの場所で、問われているのは、AIの知性ではなく、僕らの選択の覚悟なのである。