カズオ・イシグロが語る「AIが生む哲学的格差」
倉沢 美左:東洋経済オンライン編集部 記者 より 210305
⚫︎カズオ・イシグロ氏が考えるAIが人類に突きつける新たな問題とは
人工知能(AI)の存在が「当たり前」になったとき、人々の暮らしや価値はどう変わるのか――。
イギリス人作家のカズオ・イシグロ氏による長編小説『クララとお日さま』は、AIロボットであるクララが、ある秘密を抱える家族に購入されるところから始まる。一家の娘のジョジーの希望を叶えるべく奔走するクララの姿は献身的にも見え、従来の「人類 vs AI」という構図とは大きく異なる。しかし、物語の背景にはAIが浸透した世界で起きている厳しい現実も見え隠れする。
AIが社会の一部になることによる、本当の問題とは何なのか。イシグロ氏が語った。(前編: カズオ・イシグロ語る「感情優先社会」の危うさ)。
⚫︎「AIが人類を支配する」ことは脅威ではない
――クララはAIロボットでありながら、彼女を購入した家族のためを考えて行動する、非常に優しさを感じさせる存在でした。特に小説や映画では、AIはどちらかというと人類にとっての脅威と描かれがちなので意外でした。
テクノロジーによって生まれる機会もあれば、危険もあります。今日のAIがどれだけパワフルか、私たちはいまひとつ認識していません。『クララとお日さま』は、サイエンスフィクションでも、将来の話でもなくて、今まさに起こりうることです。
私自身はAIがもたらす危険性や危機についての話には関心がなく、AIは人類に対する脅威だという話を書きたいとは思っていませんでした。
たしかにAIに対する根本的なおそれのようなものは人間にあるのでしょうが、私自身はAIを脅威には感じていません。危険もあるとは思いますが、今私たちが心配するべきは「AIが人類を支配する」ということではないと思います。
それよりも『クララとお日さま』の背景に感じられる、多くの人が仕事を失って、日々の生活を営むほど稼げなくなり、雇用が縮むレベルにまでAIが台頭するということのほうが、私たちが憂うべき事態なのではないでしょうか。そして、これは単に雇用が消える、というよりも大きな問題をはらんでいます。
格差は貧富間だけでなく、働ける人と、働けない人の間にも存在するようになります。これは、社会に貢献できる人と、社会に貢献できない人という、より哲学的な格差につながるでしょう。人間にとって大きな脅威です。
そうなったとき、はたして人は自らの価値をどう測るのか。企業で働くといった古いスタイルの社会貢献が奪われてしまったとき、どうやって社会に貢献をしていったらいいのか……。AIの台頭は、人々が仕事を失われた後、どうなるのかという大きな問題を抱えていると思います。
例えば、国の20%しか働けなくなったとき、どうしたらいいのか、という問いに対しては、多くの人が答えを出していますが、いまだに説得力のあるものを聞いたことはありません。私たちの大半はずっと「誰もが働かなければいけない」という考えのもとに成長してきましたが、このこと自体を根本的に考え直さなければいけなくなるのです。私たちが生き方を完全に見直さないかぎり、暴力や戦争、あるいはひどい貧困が起きる危険性があります。
⚫︎AIが下す決定に人間が関与できるのか
もう1つ、AIが抱える問題は、AIシステム自体が持ちかねない偏見やバイアスです。これまでの世界であれば、何かブラックボックス的な状況があれば、「この決定は人種差別的、性差別的な偏見に基づいている」という指摘ができました。
しかしAIの世界では、例えば、保険の審査にしても、医療方法にしてもAIが決めることになり、その決定において新たなブラックボックスが発生します。それでも、私たちにはAIがなぜそう判断したかを知ることは困難です。これは人間にとって大きなチャレンジとなります。AIの決定プロセスに人間がどう関与できるのか、という問題です。
民主主義の脅威になりえる可能性もあります。民主主義は20世紀において、非常に成功しました。独裁主義や共産主義といったほかのシステムよりも、私たちを経済的に豊かにしてくれたからです。しかし、AIはこのゲームを大きく変える可能性があります。
例えば、中央集権型の政府がAIを利用すれば、より有効的にリソースを分配し、社会を活性化できるようになるかもしれません。警察機関については、AIや監視カメラなどの機能を使えば、間違いなく今より運用は楽になるでしょう。今のように、大量の警察官を雇わなくてよくなるわけですから。
『クララとお日さま』のバックグラウンドには、こうしたさまざまな問題が横たわっています。一方で、私にとっては、今回の慈善的なキャラクター(クララ)が、人間がどのように機能するのかを学ぶことに熱心で、「人間はなぜ寂しく感じるのか」「人間は生まれながらに寂しいものなのか」といった疑問を抱くことが重要だと思いました。
「寂しい」というのは友達がいる・いないと言った日常的な感覚の話ではなく、人間そのものの性質が寂しいものなのか、という意味です。クララはこうした質問をするようにプログラムをされており、彼女はそのレンズを通じて人間の世界を見ているわけです。クララがどう人間を観察しているか。これが物語の前景です。
人間はどう機能して、何をどうやって感じるのか。誰かを愛するとき、そのもとになっているのは何なのか。そういうことを、これまで話したようなさまざまな変化のもとで考えるわけです。
⚫︎経済的貢献以外の価値が必要になる
――AIによって私たちが従来の貢献ができなくなった場合、私たちは貢献の定義を考え直すべきでしょうか。それとも、社会における別の貢献の形を考えないといけないのでしょうか。
後者でしょうね。私たちはこれからまったく違う考え方をしなければなりません。何らかの功績に対して社会的な地位を与えたり、お金で報いたりするのは、旧来の産業革命型モデルに基づいた考えです。それ以前の農業モデル時代は、私たちは自分で自分が食べるものを作らなければなりませんでしたが、例えば自分のために働いてくれる人がいれば、その人に食べ物を与えるなどして報いることができました。
しかし、こうしたモデルとは違うものが台頭してきたとき、人に対して地位や尊厳、価値があるという感覚を与えるのはとても難しいことになるでしょう。これは人間にとって大きなチャレンジになると思いますが、私たちは経済的な貢献という狭い範囲でしか社会貢献を考えてこなかった、という点ではいいチャレンジであるとも言えます。
一方で、経済成長は機械に任せて、個人が負担を負わなくてよくなれば、人間はほかのことで価値が測られるようになるかもしれない。これは理想主義的で、非常にナイーブな意見かもしれませんが、子どもや高齢者、病気の人の面倒を見るといった、仕事以外にも重要なことはこの世にたくさんあります。
やること自体に価値があり、もっとうまくできることがほかにあるにもかかわらず、私たちは長きにわたってどの程度経済貢献をしたかのみによって、人の価値を判断してきたわけです。これは、AIが医療や法曹などエリートが多く属する分野も含めて、仕事を奪うことになったとき、大きな問題になるでしょう
すでに医療の分野ではベテラン医師より、AIや機械のほうが効率的かつ上手にできることが増えてきています。ここで興味深い問題の1つは「私自身の仕事がなくなるかどうか」です。
――小説家の仕事ですか。
私とAIが小説を書いて、出版社はどちらかできのいいほうを売るようになるのかどうか、非常に興味深い問題です。
⚫︎AIが小説を書けるかどうか。
この点についても、私は『クララとお日さま』で触れています。AIは人の感情を本当に理解できるのか。そして共感できるのか。
もしできるのであれば、AIは私を笑わせたり、泣かせたりする小説を書けるでしょう。できないのであれば、小説に近いものではあるけれど、人の心を動かせるものにはなりません。
AIが感情というものを理解するだけでなく、ある特定の感情を刺激したり、いろいろな感情に訴えたりと、感情を操作できるレベルに達するのかどうか。これはある意味、私がやっていることです。
⚫︎AIが新たな体制を生み出すかもしれない
AIが私を泣かせるものを書けるようになったとしたら、それは「小説が書ける」というよりもっと大きな話だと思います。
AIが政治家の選挙キャンペーンに利用できるレベルまで行くということですから。AIが人々の感情を操作できるレベルに達した場合、今使われているデータやアルゴリズムといったものより、もっとパワフルなものとなるでしょう。
AI自体が共産主義や資本主義といった新たな体制やコンセプトを考え出す可能性もあります。過去には人間がこうしたものを考え出しましたが、AIはこれとはまったく違う、社会を新たに組織する仕組みを見いだすかもしれません。AIが小説を書けるレベルに達したら、さらに大きな社会的影響を懸念すべきときかもしれません。
――感情を持つAI、あるいは感情を理解するAIはなかなか想像がしにくいです。
小説の中のクララは、人に好意を抱いているように思えますし、感情を持っているようにも思えます。しかし、本当に感情を持っているかどうか。彼女はともに暮らす人間の家族の感情まで理解できるのか、それともデータやエビデンスをもとにそういう状態があると表面的に理解しているのか。彼女に愛の概念はわかるのか。物語の中で、クララはある目的のために購入されたことを知り、愛とは、人間の愛とは何なのかを問うようになるのです。
人間はそれぞれ違うものなのか、なぜ人間はそれぞれが違う個性を持っていると考えるのか。何をもとに人間はそう考えるのか……。今の世の中にはさまざまな問題がありますが、私はAIロボットがある家族と暮らすという物語を通じて、そうした問題に触れられたのではないかと思います。
_____ 追補 WIRED 210315 ブックレビュー より
カズオ・イシグロの『クララとお日さま』に見るAIの異質さと、浮き彫りになる“メッセージ”:ブックレヴュー
人間の脳の視覚野は、1秒に数千回の速さでふたつの“離れ業”をやってのける。
まず、流れてくるあらゆる情報を網膜から取り込み、段階的に処理していく。最初に明暗を捉え、次に線や縁といった特徴、そして認識できるシンプルな形状、例えば「A」という文字の形から、やかんやトースターのような身近なもの、あるいは自分の祖母や通勤途中にいつもバス停で見かけた人といった個人の顔までを認識する。
次の離れ業が、こうした一連のプロセスがあったことさえ、まったく覚えていないことである。頭のなかで起きているこうした働きを、わたしたちは感知しない。そしてこれこそが、人工知能(AI)を搭載した機械と人間との間に一線を画す要素のひとつであり続けるだろう。カズオ・イシグロの最新作『クララとお日さま』にも、そんなAIロボットが登場する。
⚫︎AIの異質性
舞台は近未来の世界で、裕福な子どもたちは人工親友(AF)と呼ばれる人型ロボットをこぞって買う。理由は述べられていないが、子どもたちは自宅で遠隔授業を受けており、ほかの子と直接会って交流する機会はめったにない。AFは孤独を癒す存在として宣伝されているのだが、AFはAFならではの孤独な世界を生きている。
物語の冒頭、読者は語り手であるクララという名のAFと出会う。クララはニューヨークを思わせる都市の店頭に並べられ、ほかのAFとおしゃべりをしながら、自分を選んでくれる人が現われるのを待っている。クララはほぼ人間そっくりで、歩き、受け答えもするのだが、見ている世界はかなり違う。
AIがつかさどるクララの脳は、見るものすべてを変化し続ける「ボックス」に分割する。そうしてできる格子模様は、いわば画像処理のアルゴリズムで使われるバウンディングボックスが潜在的な脅威を赤い四角で囲むかのようだ。
クララが窓の外の通りに目をやると、ときに断片化した世界が見えてくる。割れた鏡に映っているような、怒った顔の断片。傘の下で抱き合い、8本の手足と2つの頭をもつ大きなひとりになって、やがて判別のつかない何かに姿を変える男女。
「ちょうど、にぎわう通りに立って、目の前をつぎからつぎへ車の列が流れていくのを見ている感じでしょうか。光の流れから無理やり視線を引きはがし、もっと奥のほうを見ると、そこではボックスへの分割が起こっていました」
こうした描写には、AIの異質性を改めて思い知らされる。すなわち、機械は人間と同じ前提に基づいて動くわけではない、人間の欲望や都合をAIに投影することは危険をはらむ過ちである、といったメッセージだ。これは長年、より「文学性」が薄いとされるサイエンスフィクション(Sci-Fi)のジャンルで探求されてきた。
⚫︎社会の階層化という課題
『クララとお日さま』はイシグロにとって8作目の小説にあたり、ノーベル文学賞を受賞後の第1作となる。テーマは過去の作品と類似性があり、とりわけ臓器提供者として育てられるクローン人間の生を描いた『わたしを離さないで』に通じる。
本作にも同様の要素は多い。無垢でどこか子どもらしいあどけなさを感じさせる語り手もそうだし、一見すると普通に見える暮らしの下に不気味な怖さが潜んでいるところもそうだ。
イシグロは階級制度による社会の階層化を強く意識しているように見える。日本で生まれ、幼少期に英国へ移った背景を考えれば、自然ななりゆきなのかもしれない。
これは本作の設定にも現われている。裕福な家の子どもは遺伝子編集を通じて知性の「向上処置」を受ける機会に恵まれ、処置を受けられない子には優れた大学へ進む道が閉ざされている世界だ。ここではAFは下位の階級に位置づけられ、持ち主からもういらないと言われるまで、忠実な子犬のように付き従う。
⚫︎クララがたどる旅路
クララはやがてお客に選ばれて新しい家で暮らし始め、複雑で不可解な人間関係の渦中に放り込まれる。クララはロボットとして世界を見てはいるが、ディストピア映画によく出てくるような、すべてを知り尽くし世界を破壊するAIとは違う。本作のAFたちは自身を取り巻く世界を観察することで学習し、人間とは異なる目で世界を見るのだが、やはり人間と同じように原因と結果に混乱する。
太陽の光から「栄養」を得ているクララは、御しがたく困惑する状況に持ち主の少女が巻き込まれるさまを目の当たりにすると、迷信的ともいえるほどお日さまにすがる。クララは店にいたときも自分の立ち位置から空を動くお日さまを見ており、神にも似た力をそこに見出している。歴代の文明が説明のつかない事象を理解しようと太陽を神格化してきたのと似ている。
わたしたちが現実に説得力のある人工親友をもつには、まだほど遠い。それでも、求職活動やデートアプリのアルゴリズムにいたるまで、AIは社会のあらゆる側面に入り込んでいる。愛、忠誠、友情といった特性を、人間とは世界の見方がまったく異なるAIをもつ存在に投影することについて、『クララとお日さま』は楽観的なのかもしれない。
クララは自分が理解できる考え方を、自分に見えないものを見るためのレンズとして使う。その点においてこの先、生活の大きな部分を占めるであろうテクノロジーがもたらす漠とした作用を人間が理解しようと試みるとき、本書でクララがたどる旅路はわれわれ自身の旅路を映し出していると言える。