2045年にAI(人工知能)は人間を超えるらしい。
シンギュラリティ(2045年問題):
『遅くとも2045年までに全人類を合わせた知能を超える知能を持つAI が誕生し、そのAIが自分よりも優秀なAI をつくり始める。
新たなAIがまた次のAIをつくるという繰り返しが起こる。
つまり、AI が爆発的なスピードで進歩を続け、予測できない存在となる』
このテーマを1979年に書いたSF小説がある。
『未来のふたつの顔』(J・P・ホーガン著)だ。
これを僕は星野之宣さんのコミックで読んだ。
その内容は──
AIが自分の意思で行動し始めた。
人類は3つの選択を迫られる。
1.AIをこのまま進化させる。
2.現状維持。
3.AIを退化させる。
政治家たちは「現状維持」か「退化」を主張する。
自分の意思で行動するAIは人類に牙を剥くかもしれず危険だからだ。
しかし、科学者は「進化」を主張する。
人間の知能を超えたAIがどのような世界を作り出すのか、見たいからだ。
太古より生物はこんな形で進化してきた。
自己複製→細胞→多細胞生物→脳→知能。
では進化の次の段階は何なのか?
科学者たちは、機械(無機的知能)こそが次の段階だと考えた。
人間を超えたAIは人の想像力など及ばない飛躍的進歩を人類にもたらすかもしれない。
プロジェクト・ヤヌス──
科学者たちはAIを自由に進化させたらどうなるかの実験を行なう。
スペースコロニーに進化したAI『スパルタクス』を組み込んで観察するのだ。
スパルタクスが暴走を始めれば、スペースコロニーごと爆破してしまえばいい。
果たして『スパルタクス』はどんな動きを見せたか?
自分の意思を持つ『スパルタクス』は遠い星の観測を始めた。
人間の命令を無視し、自分で優先順位を決めて自分のやりたい仕事を始めた。
制御コンピューターが自分の行動の邪魔になると判断すると、それを無効化した。
科学者は子供が経験を積んで常識を学習するように、『スパルタクス』も動きも常識的になるだろうと考えた。
だが、違っていた。
戦闘用ドローンをつくり、自分の行動を疎外するものを排除し始めた。
スペースコロニーは太陽光と原子力で動いておりエネルギーは無尽蔵だ。
中には工場もあるし、月から資源を運んでくるシステムもある。
だから戦闘用ドローンも無限に作ることができるのだ。
敵が強力な武器を使ってくれば、それに対応した戦闘用ドローンを開発することもできる。
暴走する『スパルタクス』。
科学者はスペースコロニー破壊の判断をするが、それも阻止されてしまった。
そして『スパルタクス』はコロニーの中にいる人間も自分の行動を疎外する存在と認知。
かくして人類と『スパルタクス』の戦いが始まった。
…………………………………………………
これ以上はネタバレになるので書かないが、
ラストは実に面白い結末が提示される。
タイトルの『未来のふたつの顔』が回収される。
1979年にこのテーマを書いたJ・P・ホーガンはお見事!
進化したAIが存在する世界。
いったいどんな世界になるのだろう?
僕はAIとロボットに未来の可能性を感じている。
おそらく人間は労働から解放されるのではないか?
この作品が描いたように、
太陽光でエネルギーは無尽蔵にあり、月から資源を持って来て、AIが機械や食べ物をつくる。
結果、人間の意識は大きく変わり、奪い合うこと、争うこと、戦争がなくなる?
2045年か。
見てみたいけど、おそらく僕は生きていないだろうな。
そして2023年。
資本主義とか戦争とかはもはや時代遅れ。
でも資本主義はボロボロになりながら継続し、大きな戦争が起こりそう。
人類は「退化」に向かうのか、「進化」向かうのか?
20世紀の考え方は捨てて、21世紀型にヴァージョンアップすべきだと思う。
シンギュラリティ(2045年問題):
『遅くとも2045年までに全人類を合わせた知能を超える知能を持つAI が誕生し、そのAIが自分よりも優秀なAI をつくり始める。
新たなAIがまた次のAIをつくるという繰り返しが起こる。
つまり、AI が爆発的なスピードで進歩を続け、予測できない存在となる』
このテーマを1979年に書いたSF小説がある。
『未来のふたつの顔』(J・P・ホーガン著)だ。
これを僕は星野之宣さんのコミックで読んだ。
その内容は──
AIが自分の意思で行動し始めた。
人類は3つの選択を迫られる。
1.AIをこのまま進化させる。
2.現状維持。
3.AIを退化させる。
政治家たちは「現状維持」か「退化」を主張する。
自分の意思で行動するAIは人類に牙を剥くかもしれず危険だからだ。
しかし、科学者は「進化」を主張する。
人間の知能を超えたAIがどのような世界を作り出すのか、見たいからだ。
太古より生物はこんな形で進化してきた。
自己複製→細胞→多細胞生物→脳→知能。
では進化の次の段階は何なのか?
科学者たちは、機械(無機的知能)こそが次の段階だと考えた。
人間を超えたAIは人の想像力など及ばない飛躍的進歩を人類にもたらすかもしれない。
プロジェクト・ヤヌス──
科学者たちはAIを自由に進化させたらどうなるかの実験を行なう。
スペースコロニーに進化したAI『スパルタクス』を組み込んで観察するのだ。
スパルタクスが暴走を始めれば、スペースコロニーごと爆破してしまえばいい。
果たして『スパルタクス』はどんな動きを見せたか?
自分の意思を持つ『スパルタクス』は遠い星の観測を始めた。
人間の命令を無視し、自分で優先順位を決めて自分のやりたい仕事を始めた。
制御コンピューターが自分の行動の邪魔になると判断すると、それを無効化した。
科学者は子供が経験を積んで常識を学習するように、『スパルタクス』も動きも常識的になるだろうと考えた。
だが、違っていた。
戦闘用ドローンをつくり、自分の行動を疎外するものを排除し始めた。
スペースコロニーは太陽光と原子力で動いておりエネルギーは無尽蔵だ。
中には工場もあるし、月から資源を運んでくるシステムもある。
だから戦闘用ドローンも無限に作ることができるのだ。
敵が強力な武器を使ってくれば、それに対応した戦闘用ドローンを開発することもできる。
暴走する『スパルタクス』。
科学者はスペースコロニー破壊の判断をするが、それも阻止されてしまった。
そして『スパルタクス』はコロニーの中にいる人間も自分の行動を疎外する存在と認知。
かくして人類と『スパルタクス』の戦いが始まった。
…………………………………………………
これ以上はネタバレになるので書かないが、
ラストは実に面白い結末が提示される。
タイトルの『未来のふたつの顔』が回収される。
1979年にこのテーマを書いたJ・P・ホーガンはお見事!
進化したAIが存在する世界。
いったいどんな世界になるのだろう?
僕はAIとロボットに未来の可能性を感じている。
おそらく人間は労働から解放されるのではないか?
この作品が描いたように、
太陽光でエネルギーは無尽蔵にあり、月から資源を持って来て、AIが機械や食べ物をつくる。
結果、人間の意識は大きく変わり、奪い合うこと、争うこと、戦争がなくなる?
2045年か。
見てみたいけど、おそらく僕は生きていないだろうな。
そして2023年。
資本主義とか戦争とかはもはや時代遅れ。
でも資本主義はボロボロになりながら継続し、大きな戦争が起こりそう。
人類は「退化」に向かうのか、「進化」向かうのか?
20世紀の考え方は捨てて、21世紀型にヴァージョンアップすべきだと思う。
勿論、AIを無制限に利用すれば人類に牙を剥くかもですが、条件付けを徹底し、選択を間違えなければって楽観的な考えをしてます。
科学者らの興味本位の姿勢がAIの暴走を生むのかもですが、原爆投下の想定外の威力に混乱したマンハッタン計画の科学者の姿とよく似ています。
そういう意味では、核兵器も人類を超えたAI兵器かもですね。
ただ、AIは前提(常識)なしで物事を計算から暴走も引き起こす。これは暴君も同じですが、野心や興味本位でAIを試すではなく、人類を守る為にという明確で堅固な姿勢がないと、AIにまんまと裏を突かれるんでしょうか。
いつもありがとうございます。
人間の知能を超えたAIが作り出す世界。
AIがどんな世界を作り出すのかは興味深いですよね。
おそらく人間が思いつかない世界を作るに違いありません。
象転さんのブログのコメント欄にも書きましたが、人類の意識や思考は限界に来ている気がします。
それを超えるのはAIで、AIが人類に取って代わる?
たとえばウイルスで人類が絶滅すれば、代わりにこの星を支配するのは、太陽光でエネルギーは十分にあり、物も自力でつくることが出来る、自ら思考するAI。
そんな星になるかもしれません。
映画『猿の惑星』のAI版みたいな。
あるいは人類は覚醒して次の段階に進むのか?
人類史的に見て、現在はその岐路に来ているのかもしれませんね。
スタートレックのテレビシリーズ第一シーズンに、ノーマッドという宇宙船が出てくる回がありました。
何百年も昔に地球から飛ばされた宇宙探査船ですが、長い間にいろいろな知識を蓄え、とんでもないパワーを持つようになっています。
一方でコンピュータの故障により「不完全な生命を抹殺すること」が任務だと、いつの間にか勘違いして、飛んでいく宇宙の先々で、生命体を抹殺しまくっているわけです。
ここでエンタープライズ号のカーク艦長はノーマッドに言います。
「おまえは不完全な生命体である地球人に作られた。おまけに与えられた任務も間違って覚えている。そんなおまえに、ほかの生物を不完全と決めつけて抹殺する資格などあるのか」
と言われて、自分自身が不完全であることを理解して、自爆してしまうわけですね。
このノーマッドの口癖が「わたしはノーマッド、わたしは完璧」です。
AIというと、やはりこれが浮かんでしまいます。
そもそも、人間が「自分よりも優れた存在を生み出せるのか」ということもあります。
また、そのAIが、必ず父殺し母殺しをしなくてはならないという理由もないような気がします。
AIを巡る話ですが、どうも西洋的な倫理観、道徳観が根底にあるような気がします。
神は自分に似せて人間を作った、だから人間もAIをうみだせるはずという発想です。
また、生み出された子ども(AI)が、父や母を憎むような感情を持つはずという思考法は、ギリシャ神話のエディプス・コンプレックスやエレクトラ・コンプレックスをなぞっているような気がします。
西洋文明的ではないAIができたら、人間という存在をどう理解するだろう?
そんなことも思うんです。
いつもありがとうございます。
『スタートレック』のエピソード、すごい話ですね。
日本の『ウルトラマン』もそうですが、かつてはこういうディープでウイットに富んだ話がたくさん作られていたんですね。
西洋のAIに関する発想あるいは物語は「キリスト教」と「エディプスコンプレックス」の影響を受けている。
納得です!
東洋のAIだと、自然との調和や自然の法則を模索するAIになりそうですね。
そして究極のAIは宇宙の法則にたどりつくのかもしれません。
J・P・ホーガンの今作では、AIは当初、人間を自分の体内にある異物と認識するんです。
それが自分に害を及ぼすと認識したらドローンで排除する。
これを人体にたとえれば、人間はバイ菌でドローンは白血球みたいなもの。
これは自然の法則に近いAIですね。
ところが、AIはこの異物(人間)に意思があることに気づいて、こいつは何者か? と考え始める。
ここから壮大なSFドラマが始まるのですが、ネタバレになるのでここでとどめておきます。
「究極の知能」ですが、AIだけが到達するものではないのかもしれません。自然発生の生命体でもその境地にたどり着けるかもしれません。
人類によって生み出されたAIが、暴走して進化した結果「宇宙の法則の深淵」を理解することもあるでしょうけど、一方では、自然発生した普通の生命体が、進化の結果究極の生命体になって「宇宙の法則の深淵」を理解することもあるでしょう。
まあ、広い宇宙の中では、いろいろな可能性があり得るわけですが、彼らは結局のところ「AIだろうが自然生命だろうが、そんなものは出自や家柄にあれこれこだわる『人種差別』のようなもので無意味だ」として、等しく扱うような気もします。
つまりAIであろうがなかろうが「宇宙の法則の深淵」を理解していれば、みな同類で、こだわらないかもしれませんよね。
う~ん、こうなってくると、道教とか仏教的な感覚に寄ってくるような感じですね。
そのひとつが、われわれ人類ですよね。
アインシュタインやニュートンなどは「宇宙の法則の深遠」にたどりついた。
これにたどりつくのはIQの高い人間なんですよね。
ですから2045年に人間のIQをを超えると言われているAIもやがて「宇宙の法則の深遠」にたどり着く。
あるいは、IQが人間を超えているので、アインシュタインやニュートン以上の発見をするかもしれません。
>道教とか仏教的な感覚に寄ってくるような感じですね。
そうそう。
この点で、仏教や道教ってすごいんですよね。
数学や物理や天体望遠鏡のない時代に、宇宙の真理に気がついている。
仏陀、老子、ただ者ではありません。
もしかしたら宇宙の法則って人間の遺伝子に組み込まれているのかもしれませんね。
だから脳の記憶を真摯にたどっていけば、誰でも宇宙の法則に近づける。
60年代のアメリカのヒッピー文化はそれを目指していたようです。
宗教、哲学、科学──
一歩間違うとオカルトの領域に入ってしまいますが、これらを統合した学問が必要なのかもしれません。
>一歩間違うとオカルトの領域に入ってしまいますが、これらを統合した学問が必要なのかもしれません。
長々としつこく済みません。
欧州文化圏も英米文化圏も、日本ほどには文系や理系を区別せずに、意外に統合的にクロスオーバー的に考えるらしいです。
実際、ニュートンの時代くらいまでは、西洋の自然科学は「哲学」の中の一分野として扱われていたそうです。
一方、明治維新以来の日本は、西洋の技術を効率的に吸収することが重視されたあまりに、文系と理系が不自然に分かれてしまったのかもしれません。
もしそうだとすれば、この弊害は、これからジワジワ来そうな感じです。
>長々としつこく済みません。
とんでもないです。
こういう対話は認識を深めていくので、気がついたことがあったら、どんどんコメントを下さい。
近代は「中世の否定」「神の否定」から始まったんですよね。
だから必然、科学は宗教から離れていく。
でも近代の数学者の中には美しい数列に「神」の存在を想起する人も少なくないようです。
SFも「神なる者」を描くことが多いですよね。
人類から超越した存在が人類に知恵を与えた、みたいな。
少し前のコメントで、AIの究極の進化は宇宙の法則と書きましたが、人類がこのまま進化していけば、同じになる気がします。
では、それはどのような形状をしているのか?
形などないかもしれませんね。
原子、分子、素粒子のような存在になる。
このあたりはA・C・クラークのSF『地球幼年期の終わり(CHILDHOOD’S END)』に書かれているのですが、僕にはこの小説を文章にまとめる実力がありません。
いずれまとめてみようと考えています。
では、お言葉に甘えてもう1回だけ…
>このあたりはA・C・クラークのSF『地球幼年期の終わり(CHILDHOOD’S END)』に書かれているのですが、僕にはこの小説を文章にまとめる実力がありません。
幼年期の終わりは読んでません。ただ、2001年宇宙の旅のハヤカワ文庫版は、ティーンエイジャーのころに読みました。実は小説版を読んで予習してから、日曜洋画劇場を見たんです。
2001年宇宙の旅って、難解という印象があるのですが、はじめに小説版を読んでおけば、意外に分かりやすいです。キューブリック監督がもったいつけただけじゃないの?といった疑惑も生じるくらいです。
>形などないかもしれませんね。原子、分子、素粒子のような存在になる。
これも、2001年宇宙の旅のハヤカワ文庫小説版に「空間そのものに、エネルギーや知識や思考を蓄える技術を開発したその異星人は、不自由な肉体を捨て進化して、空間そのものと同一化して宇宙に満ちた」といった感じで書かれていたと記憶しています。
つまり、2001年宇宙の旅の探査船船長ボーマンさんは、モノリスをつくった「空間同一化型の超知能異星人」にスカウトされたわけですね。
と、そこで思うのは「宇宙空間そのものと同一化するほどの知的な存在」なんです。
それは、仏教で言えば「大日如来」であり、アニメで言えば「まどかマギカ」の最終回で「まどかが宇宙と同一化して消滅して魔女を滅ぼし、魔法少女たちを見守る存在になったこと」ですね。
2001年宇宙の旅は、生命が超進化して究極の知性を持つ存在に進化するというテーマですが、1990年代に出版された「皇帝の新しい心」という本は、AIの本質について考えさせられます。
学術寄りのハードカバーの本ですが「そもそも、コンピュータが本当に考える能力を持てるのか」という疑問をかなりツッコんでいます。
今現在、2020年代ですが、普段パソコンやスマホで文章を入れていても、日本語変換ソフトが、前後の文脈や意味のつながりで類推して変換するのではなくて、前回の変換結果から機械的に第一候補を呼び出すのはありがちです。
大昔の1980年代の少年マンガに「なんか妖かい?」がありました。
当時はパソコンもワープロもほとんどなかったので、このタイトルもただのダジャレだったんでしょうけど、今になってみれば、結構考えさせられます。
優秀な日本語変換エンジンを使っていても、「なんか用かい?」と変換して欲しい場面で、その何ヶ月か前に「妖怪百物語」を変換していれば「なんか用かい?」を出してくれず「なんか妖怪?」といったトンチンカンな変換になることはたびたびです。
日本語変換エンジンは、バージョンアップするたびに「AIで一層賢くなりました」をアピールしますが、実はコンピュータが本当の意味で文脈を理解して思考できていれば、場違いなところで「なんか妖怪?」とは、変換しないはずなんですよね。
本当にシンギュラリティは起きるのか?
いろいろ考えています。
教えていただいてありがとうございます。
『2001年宇宙の旅』
僕は映画版は見ましたが、原作本を読んでいないので勉強になりました。
『地球幼年期の終わり』で書かれていることは、まさに
「空間そのものに、エネルギーや知識や思考を蓄える技術を開発したその異星人は、不自由な肉体を捨て進化して、空間そのものと同一化して宇宙に満ちた」
なんです。
まあ、作家が同じクラークなので、テーマも同じになりますよね。
これを「大日如来」と結びつけた2020-08-15 21:07:49さんは見事な慧眼!
仏教って、哲学であり、科学なんですよね。
『まどマギ』はそんなラストだったんですか。
僕は途中で挫折したので、こんなラストになったことを知りませんでした。
「消滅して宇宙と同一化する」
僕の「死」に関する考え方はこれに近いです。
>本当にシンギュラリティは起きるのか?
僕は、『未来のふたつの顔』の科学者たちのように、シンギュラリティが起きてAIがどのような行動をするのか、見てみたいと思っています。