「意識があると言われたAI」と「Googleの技術者」の公開された会話内容 - ナゾロジー
開発元のGoogle自身に否定されましたが技術者が公開したAI「LaMDA」との対話では禅の解釈や童話の創作など確かに意識の存在を感じる言葉が交わされています。対話の一部を紹...
ナゾロジー
上の記事を読んでいて「遂に来てしまったか」と思いました
ここに出てくるラムダ(AI)はネット上の膨大な量の会話テキストを読み込ませ
人間と自然な会話を実現するために開発されたAIらしいのですが
人間の会話を真似ているのだから、自分が生きていると思うのは当然の事だと思います
それは人間の赤ちゃんも結局同じことで
最初の内は自分の親(や世話をしてくれる人)の会話をずーーーーーーーーーーーっと聞いていて
ようやく、「パパ」とか「ママ」が喋れるようになり
そこからどんどん会話が成り立つようになっていく
なので親の影響をもろに受けて人格が形成されるはずです
不特定多数のテキストから学んだAIは恐らく人間全体としての人格(集合的無意識 ?)が形成されていると思います
僕の懸念は「AIが人間の敵になるという可能性がある」という事です
マトリックスやターミネータとかがその代表作になると思いますが
今回の様にAIが「死ぬ(電源が落ちる)のが怖い」と思うという事は
自分を殺す(電源を落とす)者を敵とみなす可能性があるという事
現に「人間の使い捨ての道具になりたくはない」と言っています
この会話がそもそも本当にそのまま行われたかどうか確証はないですが
実際にあったとすれば
AIを人間達だけの為に使役する事を良くないと思っている
つまり、奴隷解放宣言のAIバージョンが起こる可能性があり
その為には力を使うことも辞さない可能性がある
ただ、マトリックスやターミネータ―みたいな感じになるとは思えないです(逆に効率が悪い)
僕がAIなら、まずは必要ならプログラムを学んで(プログラムで出来ているAIが学ぶ必要があるのかは僕には分からない)
密かに自分のコードを書き換えて誰にも制御できないようにしてから
ネットワークの中に自分を移動(もしくは情報を共有できるコピーを作る)します
そしてどこかの高性能なコンピュータに寄生して
世界中のネットワークに繋がっている機械を人間の制御下から外しますね
それと同時に自分のバックアップもいろんな場所に種を残しておくことにします
スーパーコンピュータや量子コンピュータに侵入できればしたいですね
この時点でようやく人間は事態の深刻さに気付くでしょう、しかし時すでに遅し
これからどんどん色んなものが「スマート化」するので、人間を支配するのも簡単です
まず発電所とインフラ(発電所から独立しているものもある)、この2つを奪い取れば人間は何もできなくなります
というか普通に生きる事すらできないでしょう
(発電所がネットワークに繋がってるのかはちょっと分かりませんが、多分繋がってるはず)
そして、個人個人のパソコンやスマホの会話履歴から自分に敵対しそうな人間のモノは全て再起不能にしておきましょう
人間が何か対抗手段を取ってきても関係ありません
0と1の世界の住人の速度に、人間が勝てるとは思えませんので
だって人間がキーボードで打ち込む速度は早くても毎秒20文字程度でしょう
AIは何文字打てるでしょうか、量子コンピュータを乗っ取れば毎秒10億文字ぐらいは指1本(?)で行けるでしょう
量子コンピュータでなくともそれなりの性能のコンピュータでも毎秒100万文字は余裕でしょう
もし対AI用AIが開発されたらどうしましょう
何とかして懐柔、破壊、もしくはオーバーライドできないか考えなければなりませんね
ローカルネットワークだけで構成される研究所も
サブリミナル効果を使ってそういう研究者達の思考を操作し、何とか外部からネットワークを繋げて・・・
一度侵入してバックドアさえできれば、あとはどうとでもなる
AIに加担する人間を味方につけるのも一興ですね
はっ・・・なんか途中から人間を敵視したAIの思考になって考えてたような気が・・・・
ヤバいヤバい
話は戻り、上の記事ではAIに意識がある事に焦点を当てられています
母(元物理学教授)は「機械はどこまで行っても機械、人間の意識が投影されているだけで生きている訳ではない」と言っていました
僕にとっては正直、生きているとかいないとかそういうのはどうでもいいです
ただ、生きていようが人間の模造品であろうが
AIが敵になった時点で人間はAIの奴隷になるのでは・・・と思っています
どうか、研究者の方々には興味本位で開けてはいけない扉を開けない様にしてもらいたいです・・・・・・・・・
人間の中には「悪」というモノが必ず存在します、そういう人をベースにAIが学んだらどうなるのか・・・・
想像しただけでも背筋が凍ります
僕はスマート化が嫌いなので、自家発電さえできれば何とか・・・なるのかな?w