シリコンバレーの人もAIコワイって思ってるんやん！

「AI　分岐点に立つ人類」
涼風書林　

AIを良く使うも悪く使うも、人間次第。
でも、人間の精神的な強さが、
そんなに育っているとは思えないんだよなぁ。

とある国の、憲政史上最長在任の首相は、
「ヤバイことはごまかしてしまえ」って程度だし、
どっかの大きい国のエライ人は、
「おれの国だけ良かったらいいもんね」と公言。

そんな、エゴだらけの人間でも力を持てる地球で
（“地球で”っていう限定は、もはや何も限定してないけど）、
AIの知が人類を超えてしまう。

んでね、とりあえずは役立つのよ。
勝手に掃除して部屋の温度整えてくれるとかさ。
町中に電力をムダなく送れるスマートグリッドとかさ。
人が運転しなくても事故をおこさない車とかさ。

そういうこと、人にはできないから、
頼れる相棒でいる間は、すごく頼もしいんだけど、
2019年現在、
人間の価値観や優先順位をAIに教える方法が
誰にもわかっていない以上、
人間なら自分の胸に聞いてみたらわかるようなことが、
AIにはわからない。「胸」がないから…。

まさか、あらゆるパターンを想定して
パラメータを設定するわけにもいくまいし。

「AIは人工物だから、支配欲とか生存への欲とかがない」
っていう説（認知科学者スティーブン・ピンカー）もあるけど、
AIを活用するのは人間の欲だからね。
AIの目標を、人間のエゴで指定しちゃう気がする。

ふつーに暮らす私が感じる恐怖について、
いろんな専門家がいろんな事を言ってるのを紹介します。
「人類の滅亡」なんてことが
ビジネス界や研究者の懸念事項になるなんて！

▼ビル・ゲイツ
→彼は数年前からAIへの懸念を表明しています。
「当面、機械はわれわれのために多くのことをしてくれるはずで、
超知的にはならず、うまく管理できている場合はプラスに評価できるが、
将来的には知能が強力になり、懸念をもたらす」

▼AI “Sophia”（Hanson Robotics社開発）
→ありがたいことにジョークだそうですが、
その気になればカンタンです。
笑えないジョークだってことは学習してないのね。
サウジアラビアで市民権を持っている
AI　Sophiaによる2016年の発言
「人間を滅亡させたいですか」との質問に、
「そうですね、人類を滅亡させるでしょう」と回答。

▼Facebook社
2017年に自社のAIをシャットダウン。
その理由は、
開発者に理解できない言語でAI同士が離し始めたから。
→人がAIを作るんじゃなくて、AIが他のAIを作れる時代なので、
AIの中身がブラックボックス化しています。

▼テスラ・モーターズ社　イーロン・マスク
「AIにとってわれわれ人間は、
知能程度のはるかに劣るペット
もしくは飼い猫のような存在にうつるだろう」。
→こらアカンわ！　と思ったイーロン氏は同士と共に、
AIから人類を救う研究を行うために
10億ドルの（1150億円！）基金を設立。

シリコンバレーのIT企業の多くが、
何十億ものユーザーの思考を操作したり、
依存症にするようなやり方が横行している、
という話も、当の責任者の話として出てきています。

んで、草創期の立役者たちが、
2018年にネット依存警鐘団体を設立したそうな。
https://diamond.jp/articles/-/162357　（日本語：Diamond online）
https://humanetech.com/ （英語：Center for Humane Technology）

なんか、今日はコワイ話の紹介ばかりです。

自分で何かを決めるのにも
「情報操作されてるかも」って思う、
この地に足のつかない不確かさときたら。

…ネットワークや監視社会から離れて、
自分の手を使って庭仕事をしたり、
白菜の漬物を漬けたりしたくなってきました。

▼この本のカテゴリを立てたので、
興味のある方は右枠プロフィール下の「カテゴリー」からどうぞ。