AIと煩悩

芝桜とたんぽぽ

 

　スクウェア・エニックスでデジタルゲームにおける人工知能の開発・研究をしている三宅楊一郎氏が東工大の「未来の人類研究センターの利他学会議」でおもしろいことを言っていた。

　「人工知能を最初に作って、ゲーム世界にポンと置いても全然動いてくれない。なぜなら何のこだわりもないので。つまり、なぜ自分がここにいるのみたいな、お腹も空かないし、痛みもないし、ただのポリゴンの塊だし、何とか仮想世界で欲求を持って動いてほしいわけです。プレイヤー憎いでもいいし、おいしそうでもいいんです。何とかして執着してほしい、つまり、煩悩を持ってほしいわけですね。仏教が解脱を目指すものだとすれば、私の仕事は、なんとかキャラクターたちにこの世界にこだわりを持ってほしい」

　これを聞いて最初に思ったのは、では、仏教で解脱を目指す意味とは何だろうという疑問である。煩悩（欲望や妄念、執着）から解放されるために修業し、解脱した人は「えっ？俺ってなんで生きてるの？生きてる意味なんてないじゃん！」となるのではないかということだ。そんなことを目指してどうなるのだろう。生物学的には生きていても、煩悩、すなわち欲や執着がまったくなくなってしまったら、解脱してしまったら、生きている意味がなくなってしまうのではないか。そんな状態で生きるとは精神的にどういうことになるのだろう。この世界にポンとおかれた人工知能を持ったキャラクターと同じで、全然動かない、存在する意味を持たない存在となってしまうのではないか。それは解脱した意味もなくなるということではないか。

　人はこの世界にあって、外界からさまざまな刺激を受け、それに反応するかたちで生きている。外界からの刺激に対して何らかの内的欲求が起動し、行動し、考えるわけで、その内的欲求がなくなれば、いくら外界からの刺激があっても何の反応も起きないことになる。ある個体が生きているということは、その個体と外界との間に、その個体の欲求を媒介にして相互作用が起きている状態だと言える。それが生きているということである。したがって、人にとって欲や執着は生きるために必須のものだと言えると思う。だから、その欲や執着を煩悩として否定してしまうわけにはゆかないはずである。

　だからと言って、仏教などの修業にはまったく意味がないということにはならないと思う。修行というものは、自身を日常とは異なる状態、異常な状態に置くことで行なわれる。常日頃とは異なる特別な刺激を受け、異なる感覚器官、身体部分がはたらくことになる。そんなときに、人は突然に、普段まったく気が付かなかったことに気付く可能性が出てくる。その気付きによって、世界の見え方が変わり、その人にとって新しい世界が開ける可能性がある。それが悟りと言われているものではないだろうか。つまり、解脱というのは、煩悩＝欲からの解放ではなく、修行という特別な経験から得られる気付きによって、いままでとらわれていたことから解放され、ものの見方が大きく変わることではないだろうか。

　上記と同じ会議で、「これだけAIが喧伝されている現在、AIはコロナ感染の前に無力なのはどうしてか」という質問があり、それに対する三宅美博東工大教授（情報工学系 知能情報コース担当）の話もおもしろかった。よくわからない部分もあったが、誤解を恐れずに要約すると、つぎのようになる。

　人工知能の基盤にあるのは統計であり確率が前提になっている。したがって、できることは、一つ一つの事象が独立し、安定している場合に、どの事象が起きるのかを確率的に予測することである。ポテンシャル構造（？）で言うと、谷底付近で起きている事象の確率ということ。しかし、人が生きている世界は熱力学で言う非線形、非平衡系である。こういう世界はポテンシャル構造の山の頂点付近にあるようなもので、不安定な状態になることが多い。こういう状態の場合、外乱が入るとどちらかの谷底に落ちる（わずかの条件の違いでどちらに落ちるかが決まる）ので統計では扱えない。世の中の多くの現象はそのような分岐点上で発生している。コロナ感染もそう。つまり、人生のように一回性の世界であり、非統計的である。だからAIは使えない。

　上記の質問もそれをあらわしているが、AIで何でもできるようになるというイメージがあり、そんなイメージだけが独り歩きをし、それが本質的にどんなものであるのか、今後どのように展開してゆくのか、一般的にはよく理解されていないのが実状だと思われる。私もその一人ではあるが。

　こんな話もある。ビッグデータを解析することによってAIが何らかの社会的決定をするとき、その社会が差別的な社会であればその決定も差別的になるという話である。判断の材料とするビッグデータと呼ばれる多様（大量、多種、発生頻度）なデータは、異世界からではなく、現実の、この差別的でもある社会から収集されるのだから、そのデータをもとになされる判断が社会の在り方を反映し、差別的なものになったとしても不思議ではない。

　冒頭の話のように、AIが動くためには煩悩＝何らかの欲求＝行動を促すもの＝行動を評価するものをAIが持つ必要がある。AIを人間のために使おうとするなら、その煩悩は人間が与える必要があるだろう。AIが独自に煩悩を持つようになることも考えられるが、以前のブログでも述べたように、それが人間を幸せにするものであるとの保証は全くないからだ。むしろそれはAI自身のためのものになる可能性が高い。

　人間がAIに煩悩を与えるとすれば、それを誰がどういう目的で与えるのかが常に問題となる。たとえば、「国家」があってこそ「国民」はその中で安定した生活を営むことができるのであるから、「国民」が「国家」を守るために命をかけ、犠牲にもなるのは当然であるという国家観を持つ人たちが与える煩悩であれば、AIは「国家」を「国民」の上に位置づけ、国民が命をかけて守るべきものとして、さまざまな判断することになるだろう。

　また、AIを開発するのが企業であれば、当然、その企業の利益になるような煩悩を与えるだろう。まさかそこで働く人たちの利益を最上位に置くような煩悩を与えることはしないだろう。「当然」と言ったが、今の社会でそれを「当然」と考えない人はほとんどいないだろうと思うからだ。企業とはそういうものだと考えているからだ。一方で、働かせる側の人間ではなく、「実際に働いてこの社会の富を作り出している人たち」＝「この社会のほとんどの人たち」の利益が最も大切だという考えを否定する人も少ないのではないか。それにもかかわらず、企業がそこで働く人たちよりも、企業の存続と発展の方を大切だとすることを「当然」として受け入れているのがこの社会なのである。

　矛盾する価値観が同居している。どのように内面的処理をしているかと言うと、企業の存続と発展が最終的にはすべての人の利益を増大させると考えるのである。「痛みを伴う改革」が言われ始めてから久しいが、これも同じようなものだ。「企業を発展させ、存続させるためには改革が必要であり、それには痛みが伴う。でもその痛みの先にみんなの幸せが待っているのだ」というわけである。現実はそうではなく、世界規模で、一部の人間に圧倒的な富が集中し、痛みは強くなり、貧困層はなくなるどころか増えているにもかかわらず。

　そういう社会にAIである。どんな未来が待ち受けているのか、おおよその想像はできるのではないか。バラ色の未来でないことは確かである。根本的なところでこの社会の仕組みが変わらない間は。