誰も解けない死活問題。AIと人間の価値観の擦り合わせ

AIの研究を進めていく中で、
科学者もエンジニアも哲学者も解けない重要な問題があるそうです。

それは
「人間の価値観をどうAIに教えるか」

教えようと思っても、
「人間の価値観」って、決まってないよね？
ものすごく多様で、
一緒に暮らしてる家族の中でだって1人ひとり価値観は違う。

自然を大事にするのが大事だという価値観もあれば、
必要なものを買うためにはコスト重視でという価値観もある。

過酷な労働は非だけど、
もうちょっとだから最後までやっちゃいたい時もあるし。

理不尽に攻撃されたら怒るけど、だからって、
相手に同じことをやり返したいわけじゃないし。

普段はタナボタ大歓迎だけど、
時には自分を限界まで使ってみたい時もあるし。

「全員が違う価値観だ」なんて言ってたら、
AIに「人の価値観」を教えられない。
どこかに、共通項を見出さないといけない。
誰が、どうやって？　
平均値がいいのか、何がいいのか？

その答えを、誰も持っていないのが、
一番の問題、なのだそうです。

そりゃそうだ。
それがうまくいかないと、
機械が暴走する。
暴走したら、誰にも止められない。

だって、AIはセルフラーニング＝自分で勝手に学習していくんだから、
エンジニアにとっても、その内部はブラックボックスだもの。
インターネットからもIoTからも勝手に学んでいくんだもの。

AIが現に存在している今、
そして、それが技術的シンギュラリティ（人類の知を超える）を目の前に控えた今、
どうやってAIを、
人の脅威じゃなくて、人に奉仕するものにとどめておくのか。

人が人であるために、
人って何なのかを理解することが求められているように思います。

科学者には、科学的なアプローチを望みますが、
ふつーのおばちゃんには、ふつーのおばちゃんの立場で
「人間って何やろな」を考えられるはずですから。
そして、その方が一般的な感覚に近いと思うし。

そうやなぁ…。
AIに関わる科学者と哲学者とエンジニアが考えた
「人って〇〇」という定義は、
たぶん、可もなく不可もないふつーのおばちゃんの私が考えた
「人って〇〇」という定義とは違うやろうし。

「人間の価値観をどうAIに教えるか」。

これは、思った以上に大切で、しかも難しそうです。
IT関係の人も頑張ってくれ～！！


▼この本のカテゴリを立てたので、
興味のある方は右枠プロフィール下の「カテゴリー」からどうぞ。