人間は「心が折れる」からこそ価値がある、を読んでメモ

2023年12月12日
人間は「心が折れる」からこそ価値がある
苫米地　英人　著
を、読んでメモ
*******************************************************************************
ＡＩは人を超えるのウソ

電卓は人を超えたか？
　→計算において、電卓は人の能力を超えているが、
　　だからといって、「電卓は人を超えた」とはいわない。
　　もともと、電卓は計算をするために発明されたので、
　　計算において人を超えて当たり前である。

何をもって「人を超える」というのか？
　→人は、非合理な生き物である。
　　人を超えるためには、ＡＩが非合理を理解しないといけない。
　　人よりも「賢く＝合理」するよりも、「バカ（＝非合理）」にする方が
　　はるかに大変。
　　非合理的判断ができるプログラムの開発は容易ではないが、
　　それができないと人を超えたことにならない。
　　例えば、ＡＩが、次の選挙と権力争いの事ばかり考えている政治家（非合理な推論）と
　　不完全定理を証明したゲーテル（抽象度が高い）を超えたら、人を超えたと言えるだろう。

2045年問題とは
　→①2045年頃に人が到底及ばないほどの情報処理能力をＡＩが身につける。
　　②ＡＩが独自の意識をもち、人を支配するようになる。
　　のように、ＡＩが人の脅威になるだろうという問題。
　　**************************************************************
　　①は可能。
　　②について。
　　「人間の脳の神経ユニットを超える数の膨大なＣＰＵをつなぐと
　　意識が芽生えるか」
　　　→意識は芽生えない。「意識」と名付けることは出来るけれども
　　　　人間の意識とは全く違う。
　　***************************************************************
　　2045年問題が起こるとすれば、人間の悪意かバグしかない。　　　

ゲーテルの不完全定理とは？
　「すべての系はそのなかに矛盾関係をもっているのだから
　完全な論理を持つＡＩはできない」
　　　　↓　　↓　　↓
　（例）ＡＩが推論をしていったら「人類滅亡しかない」という結論が出た。
　　　　一方で「それはやばいんじゃない、電源も喪失するし」という論理が出てくる。
　　　　そこで、人工知能は人に聞いてくる。
　　　　聞いてこないとしたら、すのようにプログラムされたということ。
　　　　↓　　↓　　↓
■怖がるべき対象はＡＩではなく、ＡＩにプリンシプルをいれるプログラマー
■ありもしないＡＩ支配よりも「ハッカーの支配」を心配した方がよい