AIの活用に徹底したリスク管理が要求される理由

「2016年は、われわれがこれまで構築してきた未来
技術立ち上げにとって、重大な年になる」──。米Fac
ebookのマーク・ザッカーバーグCEOは1月6日（現
地時間）、同社の年頭所感を自身のFacebookでこ
う語った。

同氏は“未来技術”として、VR（仮想現実）、Intern
et.orgの取り組み、AI（人工知能）の3つを挙げた。

世界中でこれらの技術に対する開発に多額の資金が
投入されている。

この中でAIについては、他の2つと異なり人類の未来
に大きなマイナスの影響をもたらすリスクは否定でき
ない。

AI以前のプログラムにおいては、人間が目的に為に
計画的に設計し構築してきた。

そこではバグによる意図せぬ誤作動はあっても、プロ
グラムが勝手に動くことはなかつた。

しかし、AI技術においては、AIはビッグデータを通じ
て大量のデータから自分で物事を分類し、ルール（特
徴量と言われる）を見つけ出す「ディープラーニング
（深層学習）」という技術が軸となっている。

この方法だと、人間がAIを完全にコントロールするこ
とが難しく、AIに与えた目標以外のところで、意図せ
ぬ価値観を持つ可能性を否定できない。

以前、AIがヒトラーを肯定する意見をもったという記
事がでていたが、人間がコントロールできないビッグ
データを通じ、AIがルールを見つけ出す手法をとる
限り、AIが人間と異なるルールを生み出すリスクは
防げない。

AIがネットを通じ、より多くの機器と接続され、人間生
活の中に浸透するようになれば、AI暴走のリスクを回
避する為の仕組みを組み込むことは不可欠である。

核兵器の運用にAIを利用するようになれば、人類滅亡
も絵空事では済まないかもしれない。