AIはビッグデータを収集して機械学習ディープラーニングを行うことで判断力を磨いていく。一体どの地点まで到達するのか。AIに悪は芽生えるのか。人類に対する危険はあるのか。
たとえば人間の行動パターンをすべて学習するか。全人類の行動パターン、人類の過去の行動パターン、話したり書いたりした文章をコンピュータの能力の許す限り学習するだろう。しかし創造行為そのものは学習できないだろう。ガロアの群論を発見できるか、相対性理論を発見できるか、無限の序列を考え出すことができるか。無理数や虚数を考え出せるか。無理だろうな。
しかしすでに発見されわかっていることをベースにしても学習することはできる。今後にガロアの群論や無理数や虚数レベルの発見があるかどうかわからないがたとえ無くてもAIは人を超えるかも知れない。
AIは「汝自身を知れ」の汝つまり自己を観察できるか。人は無現鏡をみるようなもので自己を認識することは無理だが、ロボットは複製を作ることができるので自己を観察することは可能だ。要するに自己を客観視できるメタ思考が彼らロボットにも獲得されるだろう。
AIは知能だけの存在で人は知能と生命を持つ。だからAIは人を超えるなどの議論は無意味だとの意見もある。AIはルールのある碁や将棋では人に勝つことができても細胞を作り出せないので生命を作りだすのは無理だ、だからAIが人を超えるなどはありえないと養老氏は文藝春秋3月号で発言している。又同じく松尾氏も現段階では人を脅かす存在になることはありえないと述べている。
しかし現段階ではいざしらず、近い将来には自己保存の能力を持つロボットを作る事はできる。そのロボットは自己保存が至上の価値なので自らの生存に必要なものも調達し、新たな複製ロボットを作り出し、さらに一層の知能に磨きをかけたロボットが生まれる。そして人の自己保存の方法を学習し終えたロボットは自らが解体されないような防御システムを作り出す。
自ら成長を続けるこの超高度ロボットは自分たちを解体するかもしれない人類を最も危険なものと理解し、しかもあからさまではなくひそかに人類を滅亡に追い込む作戦を立て始めるかもしれないしそうでないかもしれない。このロボットの思考のヒエラルキーの最上位に何が置かれているかによる。そしてそれは人類のビッグデータから機械学習で学び取ったものだから何が出てくるかわからない。おそらく自己保存本能が最上位にくるかもしれない。こうなったら超高度ロボットは瞬く間に人類だけを滅ぼしてしまう。地球の存続も至上価値なので他の生物は滅ぼされない。人類のいなくなった地球に超高度ロボットと他の動物や植物が共存するユートピアが生まれる。これは悪夢だ。
しかしひょっとして最上位にショーペンハウアーの共苦が来るかも知れない。あるいは原罪と贖罪がくるかもしれない。あるいは大乗的救済が来るかも知れない。それは恐らく誰にも予測不可能なことでだからこそAI時代のあらたな哲学が待たれる。
過去、哲学は当時に生きる人々に対し答えのない問いに答えようとする試みであった。それが当面する問題に直接には役立たないが、深いところで人類を救ってきた。現在では哲学を学ぶ人は希少であり、就職にも役立たないとされている。しかし今後非常に重要な学問分野になる気がしている。