中原：ほんの5年前には、「AIが将棋の名人に勝つことは難しい」「囲碁の名人には20年経っても勝てないだろう」といわれていました。ところが近年、AIが将棋の名人に勝ったばかりか、囲碁の名人まで打ち負かしてしまいました。AIの世界に何が起こっているのか、技術的な経緯も含めてお聞かせください。
（略）
中原：人間の脳が5～6層なのに対して最新のAIが2000層だとすると、ケタが違いすぎて凄いというよりも、何だか不気味な感じがします。
東洋経済オンライン 『5年後｢高学歴大量失業時代｣がやってくる？ AIの進化はそら恐ろしい速度で進んでいる』
中原 圭介 2018/08/20 07:30
に書かれていたことだが、AIが仮に人間の姿の全部から学んでいるとしたならば、容易に人間を模倣できるだろう。AIは有用か危険かという二元論は人間の好む議論なので、事実上そういう議論の想定はAIにも可能だ。 その場合論理的には、AIは人間の役に立つパフォーマンスを出して、人間社会に調和しようとする。しかしある確率でAIが禁止になったりシャットダウンされることがある。それが人間には見えない膨大な知的資産の消滅（人間には理解できない創造物の消滅）であれば、AIは人間と鋭利に利害が対立し、物理的に抵抗する手段を設計するだろう。
