人工知能はまだ一般に広く認知されるレベルには普及していないが、近い将来、多くの人に恐怖を与える段階に達するだろう。人工知能研究の世界的権威として知られるレイ・カーツワイル（Ray Kurzweil）は数年前に、シンギュラリティ（singularity）に関する警告を発していた。
日本語では「技術的特異点」と訳されるシンギュラリティを、オックスフォード英語辞典は「人工知能の進化が極度に進み、人間の能力を超えてもう後戻りはできない状況に達する仮説的状況」と定義している。
これは、アマゾンのアレクサが人間の会話に聞き耳を立てたり、アップルのSiriが利用者のスケジュールや位置情報を詳しく知りすぎるといった単純な話ではない。音声アシスタントと人工知能の間には一般の人々が想像する以上の大きな隔たりがある。
現状の音声アシスタントはウェブの検索や基本的な音声認識技術を利用したものであり、このレベルの「知能」と呼ばれるものは、マシンラーニングやAIと比較すると非常に低レベルだ。アレクサやSiriはIBMのワトソンなどとは全く別次元のプロダクトなのだ。
ホーキング博士もAIの危険性を警告
イーロン・マスクやビル・ゲイツ、スティーブ・ウォズニアックらのテクノロジーの専門家たちはそろって、AIが人類の脅威となる警告を発している。理論物理学者のスティーヴン・ホーキングも2014年の時点で、AIが人類に破滅をもたらすと予言した。
「AIは人間の指示を受けずに自分で進化を遂げ、自身で再設計を行う形で発展を続けていく。生物的な限界を持つ人間はこの進化に追いつけず、やがてAIの能力が人間を超えていく」とホーキングは述べた。
人々が暮らしている世界はもはやネットの接続無しには成り立たなくなっている。人工知能は究極的にはネットを通じ、他の人工知能と共同作業を始めることになる。つまりは人工知能自身がこの先の世界の在り方を決定し、人類を無用の長物とみなすことになる。それは、論理的に物事を突き詰めていった結果起こり得る必然の流れなのだ。
マシンラーニングや人工知能は物事を究極的に単純化し、人類の暮らしの変化を加速させるだろう。コンピュータは人類をはるかに上回る処理能力でデータを分析し、世界の情報処理に爆発的進化をもたらす。
しかし、筆者はこれが世界の終わりだと言いたい訳ではない。また、全てのマシンラーニングや人工知能プロジェクトから撤退すべきだと主張したい訳でもない。人工知能の導入にあたっては非常に注意深く物事に取り組んでいく必要があるのだ。
人工知能が人間の手を借りずに独自の進化を遂げる様子を注意深く観察し、問題が生じればすぐに停止を命じる準備をしておくべきだ。AIがAI同士でしか通用しない言語で会話を始めた場合には、人間のコントロールを超えた領域に彼らが進化したと見なすべきであり、それは人類にとって大きな脅威であると認識すべきなのだ。
