AI（人工知能）の三原則

 

（鋼鉄都市）

SFに登場するロボットに「ロボット三原則」を提唱したのはアイザック・アシモフ (1920-1997)とされている。

　アイザック・アシモフはロシアのスモレンスク郊外にあるペトロヴィチという小さな町で生まれた。父親はユダヤ人の会計士であった。ロシア革命後、ユダヤ人は帝政時代よりもひどい迫害を受けていたので、一家はアメリカに移住し帰化した。アイザックは９歳のときに、アメージング・ストリー誌のSFを読んでこれらの作品にとりつかれた。そしてコロンビア大学で化学を専攻するかたわら、SF作品を書きはじめた。処女作は「真空漂流」である。ロボットものとしては『われはロボット』(1950)、『ロボットの時代』(1964)、『バイセンテニアル・マン』 (1976)、『鋼鉄都市』 (1983)、『ロボット帝国』（1985)などがある。 ボストン大学では最終的に化学の教授になった。

 

ロボットエ学三原則とは、つぎのようなものである。

第１条 ロボットは人間に危害を加えてはならない。またその危険を看過することによって、人間に危害を及ぼしてはならない。

第２条 ロボットは人間に与えられた命令に服従しなければならない。ただし与えられた命令が第一条に反する場合はこの限りではない。

第３条 第一条および第二条に反するおそれのない限り自己を守らなけれぱならない。

　この３原則は、実はアシモフが最初に考えたものではなく、アラタウンディング・サイエンス・フィクション誌の編集長キャンベルが、アシモフのReason（『われ思う、ゆえに.....』)などの作品を読んで、まとめたものだある。それをアシモフが認め世間に広めた。それゆえに、文明論的あるいは社会工学的な思索を重ねてまとめられたものではなかった。あくまで小説の世界のものであった。

　一方AIは現実社会で応用が進み、ロボット技術とも組み合わさって利用されている。AI（人工知能）は大きな可能性が期待される一方で、得体のしれない不安もある。2045年には人工知能は人間の脳を超えるシンギュラリティがやってくるといわれている。庵主はロボットと同様にAIに関しても、そのありかたや利用の仕方に「原則」を作るべきであろうと考えた。庵主（楽蜂）のまとめたAI三原則をここに開陳する。

  １）AIによる自己増殖を禁止する。

　進化論を学習しこれを取り入れるAIの出現は必然である。そうすると精妙な「ウイルス」になって世界で自己増殖するAIが出現する。

　２）外部システムへのAIによる出力を禁止する（インターネットに繋いではならない）。

　AIとAIの共同戦線によって、人を疎外するAIワールドが出現するのを予防しなければならない。

　３）運転システム（AIを動かすマシン）へのAIによるアクセスを禁止する。

　「2001年宇宙の旅」の人工知能HAL(ハル)の暴走を止めるには、人がこれを爆破しなければならなかった。

　４）外から制御できない自動停止装置を備える。

 AIとロボットが組合わさったケースについては今後の課題である。

 

参考図書

野村直之　『人工知能が変える仕事の未来』日本経済新聞出版社　2015

ジェイムズ・バラット　『人工知能』ー人類最悪にして最後の発明（水谷淳訳）ダイヤモンド社　2015

追記 1 (2021/03/23)

人は昔、鳥のように飛びたいと願い飛行機を発明したが、その飛行の仕組みは鳥のそれとは全く違うものであった。しかも、飛行機は鳥よりも早く遠くまで移動出来る。同様に思考するAIも人の脳の仕組み真似ることはまったく必要でない。ニューラル深層学習が実際脳のニューロン活動を真に模倣したものかどうかは分からない。

追記 2  (2021/05/27)

2014年再生医療の投資を専門とする香港のベンチャーキャピタル企業はVITALというアルゴリズムを取締役の役員の一人といして任命した。VITALは財政や臨床試験や知的財産に関する膨大なデーターを分析し、投資の方針を出した。（ユヴァル・ノア・ハラリ　『ホモ・デウス』河出書房 2018)。