人工知能を人間が

後追いしなくてはならない時代が来るのだろうか。

昨夜の NHK の「人工知能--天使か悪魔か」を見てそう思った。アルファー碁という　AI　ソフトが生身の人間のそれも現在最高の棋士と言われる韓国の イ 九段に５回対戦して４勝１敗であった。

そのときに対戦をテレビ中継していたときに解説の棋士が疑問の手または悪手とした手がその後の碁の手として生きてきたという。

そういうことだとやはり人工知能 AI が打つ手をそれがどういう意味を持つのかと人間が解釈しなくてはならないことになる。

それも AI は自分で自分の意図を説明したりはしないから、いきおい人間が AI はどういう風に考えたのかということを推察する必要が出てくることになる。

数の計算で電卓を使って計算するときにどうやって計算したかはあまり原理的に追求したいと思う人は今ではいないだろうが、不定積分をするときにどういう風に不定積分するかなどだったら、私などはどうやって不定積分したのか関心をもつ。

数式処理で大学の初年級で学ぶ不定積分の９０％以上をいまではコンピュータの数式処理システムが解くことができるという。

それくらいなら、その中身を知ることの要求はあまりないかもしれない。だが、アルファ碁のように人間の最高の棋士と思われる人に圧倒的に勝つようになるとやはりそのときに AI がどのように判断したのかはブラックボックスであるコンピュータに聞いてくれだというのでは人間としてはおもしろくはない。

やはりそれは数学的処理をした結果だというだけでは人間は満足しないだろう。それを解釈して理解するしか道がないというのはちょっと情けないような気もするが、それでもそういう風に進むだろう。

以前のブログで書いたことがあるが、私は AI は問題解決するのに武谷の三段階論みたいな段階を経ないで直接に物事の認識をするようになるのかどうかということに関心をもっている。

しかし、それでも仮想的にコンピュータの中で一時的にたとえば実体論的な段階の認識をもつというのではないかと思っている。もっともそれはコンピュータの外の人間にはわからないので、突如としてディープラーニング（深層学習）中のくり返し学習において本質的な認識が現れるように思われるのではなかろうか。それだすると人間はやはり　AI　を外から解釈するという情けないことをするしかなくなるのだろうか。

そんなことを考えた昨夜の放送であった。