メタエンジニアの眼シリーズ（１６４）
TITLE: フランケンシュタイン・コンプレックス
書籍名；「フランケンシュタイン・コンプレックス 」[2009]
著者；小野俊太郎 発行所；青草書房
発行日；2009.11.24
初回作成日；R2.2.12
引用先；メタエンジニアリング
このシリーズは文化の文明化を考える際に参考にした著作の紹介です。『 』内は引用部分です。
フランケンシュタイン・コンプレックス (Frankenstein Complex)という言葉がある。 メアリー・シェリーの小説『フランケンシュタイン』に由来する言葉で、SF作家アイザック・アシモフが名付けた。
Wikipediaには、『創造主（アブラハムの宗教の“神”）に成り代わって人造人間やロボットといった被造物（生命）を創造することへのあこがれと、さらにはその被造物によって創造主である人間が滅ぼされるのではないかという恐れが入り混じった複雑な感情・心理のこと。
このロボットに対する人間の潜在的な恐怖が、ロボット工学三原則を生み出したということになっている。また、この恐怖と労働者の経済利害が合わさった結果、アシモフのロボットSFの作品中では、地球上でのロボットの使用が原則的に禁止されている。』とある。
ついでに、アイザック・アシモフ（Isaac Asimov）についても、Wikipediaは、『（1920年1月2日―1992年4月6日）は、アメリカの作家、生化学者（ボストン大学教授）である。その著作は500冊以上を数える。彼が扱うテーマは科学、言語、歴史、聖書など多岐にわたり、デューイ十進分類法の10ある主要カテゴリのうち9つにわたるが、特にSF、一般向け科学解説書、推理小説によってよく知られている。』とある。近年では、「アイ，ロボット」という映画が公開されている。
ちなみに、「デューイ十進分類法」とは、図書館で見かける３桁の分類のための数字である。
この書の副題は、「人間は、いつ怪物になるのか」なのだが、これには、色々な意味が含まれているようだ。
「はじめに」は、「ブラックボックス時代の怪物」と題して、1818年に発表された小説が、２０歳過ぎの女性により執筆されたのだが、それが大きな問題を含んで、現代に繋がっているとある。現代社会は、ブラックボックスだらけで、それがいつ怪物になるのか、誰も分からないというわけである。
『エレべーターを動かすことからインターネットでの買い物まで、あまり深く考えずにボタンを押したり、クリックするだけで実行し、問題を解決する。一種の記号化やパッケージ化だが、デジタル社会のあらゆる面に広がっている。科学技術が進めば、内部のメカニズムは、不透明になって見えにくくなっていき、誰もそれに疑間をもたない。』(pp.9)
そこで、機械を人間に当て嵌めてみると、『では、人間を機械のようなブラックボックスとして扱ったらどうなるのか。もちろん、人間関係やコミュニケーションがうまくいっているときはよい。円滑に話は進むだろう。だが、ひとたび、ある「入力」に対して、誰かが、異常な「出力」をした場合に、どのように対応するのか。問題はそこにある。』(pp.9)、ということになる。機械ならば、部品交換があり得るが、人間はそうはゆかない。そこから、色々なストーリーが生まれてくる。
この書は、それについては、「パンドラの箱」や「ジキル博士とハイド氏」、「ドラキュラ」挙句は「チャタレイ夫人の恋人」まで話を広げている。聊か広げ過ぎているようだ。
そこで、「おわりに」まで一気に飛ぶことにした。
『けれども、怪物を生みだす不安から、科学技術や産業を否定し、責任をヴィクター個人に還元したところで、社会のなかで怪物が生みだされるのを防げるわけではない。相手に「モンスター」という安易なレッテルを貼って、「心の闇」と内実をブラックボックス化して対処療法するだけならば、コミユニケーションを放棄しているのはこちら側になってしまう。それではせっかくパンドラの箱にのこった希望も、本当に絶望になりかねない。そこでは、真の意味でのコミュニケーション能力の有無が問われることになるだろう。』(pp.254)
そこでの対処法は、次のようにある。
『怪物とみなす相手との関係や、その発生のメカニズムを考え、怪物というブラックボックス、つまりはパンドラの箱を開ける勇気が大切になる。しかも、相手から自分が怪物に見えているかもしれない、という計算を踏まえたうえで箱を開けるのであ漁る。』(pp.255)
つまり、ブラックボックスであっても、コミュニケーションを試みよということのようだ。これに関連することでは、最近はロボットからAIに移りつつある。AIというブラックボックスが怪物かしないためには、どうするかである。最初にロボット三原則が出されて、今はAI７原則の時代に移りつつある。
ロボット三原則は、
（第一条）ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
（第二条）ロボットは人間にあたえられた命令に服従しなければならない。ただし、与えられた命令が、第一条に反する場合は、この限りでない。
（第三条）ロボットは、第一条および第二条に反するおそれのないかぎり、自己を守らなければならない。
だそうで、アシモフの多くの小説が影響している。
一方で、AI七原則は、「本文書は人間中心のＡＩ社会原則検討会議がとりまとめる人間中心のＡＩ社会原則の草案であ る。今後、国内外から広く意見を募った上で 2019 年 3 月に本原則を策定する予定である。
としたうえで、次のような項目になっている。
(1) AIは人間の基本的人権を侵さない
(2) AI教育の充実
(3) 個人情報の慎重な管理
(4) AIのセキュリティ確保
(5) 公正な競争環境の維持
(6) 企業に決定過程の説明責任
(7) 国境を越えたデータ利用の環境整備
(6) の「企業に決定過程の説明責任」が実際の運用上でどうなるのかが、議論の尽きないことになってしまっているように思う。例えば、AIによる自動運転バスが事故を起こしたときに、バス会社は原因の説明責任を果たせるのか、といったことが挙げられている。
フランケンシュタイン・コンプレックス は、ブラックボックス化が進む中で、ますます注目される言葉になりそうに思う。
TITLE: フランケンシュタイン・コンプレックス
書籍名；「フランケンシュタイン・コンプレックス 」[2009]
著者；小野俊太郎 発行所；青草書房
発行日；2009.11.24
初回作成日；R2.2.12
引用先；メタエンジニアリング
このシリーズは文化の文明化を考える際に参考にした著作の紹介です。『 』内は引用部分です。
フランケンシュタイン・コンプレックス (Frankenstein Complex)という言葉がある。 メアリー・シェリーの小説『フランケンシュタイン』に由来する言葉で、SF作家アイザック・アシモフが名付けた。
Wikipediaには、『創造主（アブラハムの宗教の“神”）に成り代わって人造人間やロボットといった被造物（生命）を創造することへのあこがれと、さらにはその被造物によって創造主である人間が滅ぼされるのではないかという恐れが入り混じった複雑な感情・心理のこと。
このロボットに対する人間の潜在的な恐怖が、ロボット工学三原則を生み出したということになっている。また、この恐怖と労働者の経済利害が合わさった結果、アシモフのロボットSFの作品中では、地球上でのロボットの使用が原則的に禁止されている。』とある。
ついでに、アイザック・アシモフ（Isaac Asimov）についても、Wikipediaは、『（1920年1月2日―1992年4月6日）は、アメリカの作家、生化学者（ボストン大学教授）である。その著作は500冊以上を数える。彼が扱うテーマは科学、言語、歴史、聖書など多岐にわたり、デューイ十進分類法の10ある主要カテゴリのうち9つにわたるが、特にSF、一般向け科学解説書、推理小説によってよく知られている。』とある。近年では、「アイ，ロボット」という映画が公開されている。
ちなみに、「デューイ十進分類法」とは、図書館で見かける３桁の分類のための数字である。
この書の副題は、「人間は、いつ怪物になるのか」なのだが、これには、色々な意味が含まれているようだ。
「はじめに」は、「ブラックボックス時代の怪物」と題して、1818年に発表された小説が、２０歳過ぎの女性により執筆されたのだが、それが大きな問題を含んで、現代に繋がっているとある。現代社会は、ブラックボックスだらけで、それがいつ怪物になるのか、誰も分からないというわけである。
『エレべーターを動かすことからインターネットでの買い物まで、あまり深く考えずにボタンを押したり、クリックするだけで実行し、問題を解決する。一種の記号化やパッケージ化だが、デジタル社会のあらゆる面に広がっている。科学技術が進めば、内部のメカニズムは、不透明になって見えにくくなっていき、誰もそれに疑間をもたない。』(pp.9)
そこで、機械を人間に当て嵌めてみると、『では、人間を機械のようなブラックボックスとして扱ったらどうなるのか。もちろん、人間関係やコミュニケーションがうまくいっているときはよい。円滑に話は進むだろう。だが、ひとたび、ある「入力」に対して、誰かが、異常な「出力」をした場合に、どのように対応するのか。問題はそこにある。』(pp.9)、ということになる。機械ならば、部品交換があり得るが、人間はそうはゆかない。そこから、色々なストーリーが生まれてくる。
この書は、それについては、「パンドラの箱」や「ジキル博士とハイド氏」、「ドラキュラ」挙句は「チャタレイ夫人の恋人」まで話を広げている。聊か広げ過ぎているようだ。
そこで、「おわりに」まで一気に飛ぶことにした。
『けれども、怪物を生みだす不安から、科学技術や産業を否定し、責任をヴィクター個人に還元したところで、社会のなかで怪物が生みだされるのを防げるわけではない。相手に「モンスター」という安易なレッテルを貼って、「心の闇」と内実をブラックボックス化して対処療法するだけならば、コミユニケーションを放棄しているのはこちら側になってしまう。それではせっかくパンドラの箱にのこった希望も、本当に絶望になりかねない。そこでは、真の意味でのコミュニケーション能力の有無が問われることになるだろう。』(pp.254)
そこでの対処法は、次のようにある。
『怪物とみなす相手との関係や、その発生のメカニズムを考え、怪物というブラックボックス、つまりはパンドラの箱を開ける勇気が大切になる。しかも、相手から自分が怪物に見えているかもしれない、という計算を踏まえたうえで箱を開けるのであ漁る。』(pp.255)
つまり、ブラックボックスであっても、コミュニケーションを試みよということのようだ。これに関連することでは、最近はロボットからAIに移りつつある。AIというブラックボックスが怪物かしないためには、どうするかである。最初にロボット三原則が出されて、今はAI７原則の時代に移りつつある。
ロボット三原則は、
（第一条）ロボットは人間に危害を加えてはならない。また、その危険を看過することによって、人間に危害を及ぼしてはならない。
（第二条）ロボットは人間にあたえられた命令に服従しなければならない。ただし、与えられた命令が、第一条に反する場合は、この限りでない。
（第三条）ロボットは、第一条および第二条に反するおそれのないかぎり、自己を守らなければならない。
だそうで、アシモフの多くの小説が影響している。
一方で、AI七原則は、「本文書は人間中心のＡＩ社会原則検討会議がとりまとめる人間中心のＡＩ社会原則の草案であ る。今後、国内外から広く意見を募った上で 2019 年 3 月に本原則を策定する予定である。
としたうえで、次のような項目になっている。
(1) AIは人間の基本的人権を侵さない
(2) AI教育の充実
(3) 個人情報の慎重な管理
(4) AIのセキュリティ確保
(5) 公正な競争環境の維持
(6) 企業に決定過程の説明責任
(7) 国境を越えたデータ利用の環境整備
(6) の「企業に決定過程の説明責任」が実際の運用上でどうなるのかが、議論の尽きないことになってしまっているように思う。例えば、AIによる自動運転バスが事故を起こしたときに、バス会社は原因の説明責任を果たせるのか、といったことが挙げられている。
フランケンシュタイン・コンプレックス は、ブラックボックス化が進む中で、ますます注目される言葉になりそうに思う。