シンギュラリティ(技術的特異点)のことを話題にする人がいるんだけど、まじめに議論していないので、ちょっと、マジに名って書いてみる。
つまり、ロボットが人間を征服し、絶滅させるには、ロボットが、ロボットを生み出さなくてはならない。
これをするためには、
「Xを生み出すロボット」のXに、自分自身を入れられる(再帰)ができないといけない
「「「Xを生み出すロボット」を生み出すロボット」を生み出すロボット」を生み出す・・・・」
・・・おわらない。再帰は終了条件が必要だ。でないと、ループして終わらなくなる。
ここでは、
・製品に必要な部品がすべてそろうこと
・製造方法がすべて分かること
の2つになる。前者は物理的な問題で、現在、ロボットが作れるってことは、材料はそろうだろう。
問題は後者。製造方法という知識(知恵?)が取得できるか。
さらに、ロボットを作っただけではだめで、ロボットが人類を絶滅させるには、
・ロボットが支配したほうが良いという価値判断と
・人類を絶滅させる知識(知恵?)
を取得できるか?というのがもんだいになる。つまり、
・価値判断を取得できるか
・知識、知恵を取得できるか
という問題になる。
知識の取得自体は、いまGoogleさんが、コンピューター使ってやってるし、できそう。
問題は、その知識を評価する方法と、評価基準を変えられるかということ。
この価値判断を変えられるというのが、特徴量を学習できる、表現学習→ディープラーニングだよねえ。
なので、この問題は、
ディープラーニングを使って、ロボットの製造方法を学習できるのか?
ということになる・・・
・・・が、ここで、
「ちょっとまってちょっとまっておにいさん」
なのだ。ロボットの製造方法どころか、
ディープラーニングを使って、「新薬の」製造方法を学習できるのか?
もし、学習できたとしたらすごいことだ。これができた製薬会社は
薬品製造の特許乱発して、ぼろ儲けするだろう・・・そうすると、その製薬会社が
世界を支配してしまい・・・人類が滅亡するかも?
つまり、ロボットの製造方法に行き着く前に、人類の倫理観がしっかりしていないと、
何かを学習するロボットを使って、人類が人類を滅亡させてしまうかもしれない・・・
で、そうなるかどうかは、
ディープラーニングを使って、Xの製造方法を学習できるのか?
(Xは任意。再帰も可能)
という学習がどこまで有限時間で現実的に可能かということにかかってくる。
ってことが、落ち着きどころじゃない?