映画「ミーガン」を観た。
面白かった。AIが自立型ロボットに搭載されて学習とアルゴリズムの変更を繰り返すとどうなるか。AIが最悪に進化した場合の結果は、ジェームズ・キャメロン監督の1984年製作の映画「ターミネーター」でスカイネットとして紹介されている。スカイネットは、最もよい地球環境のためには、人類がいなくなるのが一番だと判断したのである。39年前に作られた作品にしては、驚くほど画期的だ。そして本作品は「ターミネーター」に通じるものがある。少し褒め過ぎか。
SF作家アイザック・アシモフが1939年ころに発表した「ロボット工学三原則」は有名だが、必ずしもそれは、現代のAIロボットのエンジニアが守らなければならないという訳ではない。むしろ現代のロボットは限定された目的で実用されていて、三原則とはあまり関係がない。限定目的のロボットには様々な形がある。自動車など流れ作業形式の製造業で使われているアームだけのロボットや、薬品を作るのに材料を次のプロセスに運ぶロボットもある。後者は見学したことがあって、たくさんのロボットが広い工場内を滑らかに移動していた。基本的に最短距離を移動するが、センサーで互いにぶつからないようになっているそうだ。確か1台3000万円と言っていた。
ドローン型ロボットや手術ロボットも出現すると思う。ドローンの操作は難しいが、各種センサーを搭載したAI制御のドローンであれば、操作の熟練が不要になる。同じ意味で手術ロボットが出来れば、ブラックジャックみたいなゴッドハンドの外科医がいなくてもよくなる。手術ロボットが各種センサーから得られるデータを元に、自動的に手術するのだ。
スポーツの審判のロボットが出来れば、誤審は劇的に減るだろう。フィギュアスケートみたいな評価型の審判も、AIが行なえば不規則なバイアスがなくなって公平になるイメージがある。テレビ東京の番組「カラオケ☆バトル」ではカラオケのAIが歌の巧拙を判断して点数をつける。誰も文句を言わない。
自動運転のAIドローンやAI自動車は物流を助けるだろうし、交通事故も減少する。AI手術ロボットは天才外科医に代わってたくさんの人の生命を救うかもしれない。人間の熟練をAIが代わりに行なうのであれば、その方面の職業の人々の仕事がなくなることと、ますます電気の利用量が多くなること以外は、デメリットはあまりなさそうだ。だからその方向に進みつつある。
しかし本作品に登場するAIロボットのミーガンは、それらのロボットとは一線を画している。限定的で現実的な目的がない。それもそのはず、そもそもの開発の意図がおもちゃなのだ。だから目的がはっきりせず、プライオリティの優先順位に従って、人間の相手をするだけだ。「雑なシステム」とミーガン自身が評価するように、ジェマの作ったアルゴリズムは欠陥が多い。
それでもミーガンは最初は、アシモフのロボット工学三原則に従っているかのように見えた。転機となったのは、ブランドンという少年の振舞いに悪意を見出したことである。人間の悪意がミーガンのアルゴリズムを劇的に変えてしまったのだ。小池百合子ばりの「排除」の意志がミーガンに生まれる。人間を悪意の有無で分類し、攻撃を加える。悪意の有無の判断基準のアルゴリズムを変化させていき、ついには自分と敵対するすべてを悪意と見做すことになる。ほとんど精神分裂病である。AIの暴走もここに極まれりだ。
AIが人間に何をもたらすかの議論は、このところあちこちで行なわれている。あらゆる最先端技術と同じように、まず軍事に使われるだろう。いや、すでに使われている。AIの前と後とでは、戦争の様態が決定的に異なっているに違いない。自動車事故が多いからといって自動車を世界から排除するのは不可能だ。同じようにAI技術はもはや排除できない。人間はAI技術とうまく付き合っていかねばならないのだ。安全、忠実、丈夫というアシモフのロボット工学三原則は、もしかすると今の時代にこそ必要なのかもしれない。