ヘンリー・キッシンジャー、グーグル前会長エリック・シュミット、MITのダニエル・ハッテンロッカーと言う3人の英知を結集したこの本、「The Age of AI: And Our Human Future」は面白い形式で、何度かの合議で纏められた総合見解を、ライターが本に起したといった感じで、誰が何を語ったのか分からないし、総花的であり、文明論に近い感じである。
英文のAmazonの能書きを要約すると、
3 人の思想家 が集まり、人工知能 (AI) と、それが人間社会をどのように変革し、私たち全員にとって何を意味するかを探求。 AI は、人間のグランド マスターが想像もしなかった動きで、チェスに勝ち、人間の科学者が理解していなかった分子特性を分析することにより、新しい抗生物質を発見するなど、 検索、ストリーミング、医療、教育、その他多くの分野でオンライン化されて、その過程で人間が現実を体験する方法を変革してきた。 The Age of AI では、3 人が集まり、AI が、私たちと知識、政治、社会との関係をどのように変えるかについて考察した。 この本は、現在とこれまでに経験したことのない時代である未来への必須のロードマップである。The Age of AI is an essential roadmap to our present and our future, an era unlike any that has come before.
私にとって印象深かったのは、AIに対して人間の監視監督、コントロールの重要性を説いていて、AIによって、今何が生まれようとしているのか、それは人類にとってどの様な意味を持つのか、それを説明できる、AI時代のデカルトでありカントが必用だと指摘して、来るべきAI時代への人類の指針を展開していることである。
AIを設計し、訓練し、パートナーとする人々は、これまで人類には手が届かなかったような複雑でスケールの大きい目標を達成することが出来る。新たな科学的ブレイクスルー、新たな経済効率、安全保障、社会的監視や管理の手段などである。
しかし、一方、そのようなかたちで、AIの勢力拡大のプロセスや使用に関与できない人々は、自分には理解できない、設計も選択もしなかったものに、監視され、研究対象とされ、影響されているという感覚を抱くであろう。
AIを設計し活用する人々は、こうした懸念の解消に取り組むべきで、とりわけ、技術専門家でない人々に、AIが何をしているのか､何をどの様に知っているのかを説明する必要がある。と言う。
動的で創発的というAIという性質が､曖昧さに繋がるパターンが少なくとも二つある。
一つ目は、AIが人間の期待通りに動いても､予見していなかった結果が出るパターンで、それによってAIは、設計者が想定もしていなかった場所へ人類を連れて行くかも知れない。慎重に検討もせずにAIを使うと重大な結果を引き起こす恐れがあり、軍事対立など重大な事態のこともある。
もう一つは、一部のアプリケーションに見られる、AIは完全に予測不可能で、その行動はすべてサプライズというパターンである。チェスのアルファゼロのように、「チェスの試合に勝て」と指示しただけで、人間が誰一人考えたことのない戦法を編み出したように、自由を与えられたAIが見いだすその達成方法は、人間にとって意外な、時にはぞっとするようなものである。
したがって、AIの目的や権限は慎重に設計する必要があり、AIの判断が命に関わることがあるならば、AIにすべてお任せというのは許されない。人間の監督、監視、あるいは直接的管理なしに、取り返しの付かない行動が出る許可を与えてはならず、人間が作り出したAIは、人間が監督すべきである。
ところが、AIを開発する能力やリソースを持つ人々が、それが社会全体に及ぼす影響を理解する必用な哲学的視点を持ち合わせておらず、基本的に自分たちの開発しようとしているアプリケーション、解決しようとしている問題のことしか考えていない。自分たちが生み出す解決策が歴史的革命を引き起こす可能性、あるいは自分たちの技術が多様な集団に及ぼす影響を考えることもない。
必用なのは、今何が生まれようとしているのか、それが人類にどの様な意味を持つのかを説明できる、AI時代のデカルトでありカントだ。と言うのである。
ここまでの論考は、納得がいく。
しかし、AIは、人間の理性によって動くわけでもなく、人間のような動機付けや意図もなければ、内省もない。人間社会で使われている正義の原則をそのまま適用することも0難しい。AIが社会に引き起こすジレンマは深刻である。
著者達は、AIの行動を制限するために、政府、大学、民間部門のイノベーターを巻き込んで合理的な議論や交渉を重ねて、現在、個人や組織に課せられているようなルールを策定すべきだとして、現状を幅広く分析しながら、多方面から、対処法や処方箋を提示している。
いずれにしろ、AIの未来は、混沌としている。
最後に、著者達は、次の文章で結んでいる。
AIが成功すればするほど、新たな問題も生じる。
人間の知能がAIと遭遇した今、国家、大陸、さらには、世界規模の探究への応用が進んでいる。この変化を理解し、指針となる倫理を確立するには、科学者や戦略家、政治家や哲学者、宗教指導者や経営者など社会を構成する様々なメンバーが積極的に関与し、知恵を出し合う必要がある。国内的にも国際的にもこのようなコミットメントが求められており、人間とAIのパートナーシップとはどの様なものか、今こそ明らかにする必要がある。
安直なAI本ではなくて、先哲の教えにも匹敵するようなan essential roadmap to our present and our future、
エリザベス女王の正真正銘の国葬に先を越されて、国民の過半が認めない色褪せた国葬らしきものを強行突破しようとしている我が日本の政府に、このような知恵の片鱗さえも有りや無しや。
英文のAmazonの能書きを要約すると、
3 人の思想家 が集まり、人工知能 (AI) と、それが人間社会をどのように変革し、私たち全員にとって何を意味するかを探求。 AI は、人間のグランド マスターが想像もしなかった動きで、チェスに勝ち、人間の科学者が理解していなかった分子特性を分析することにより、新しい抗生物質を発見するなど、 検索、ストリーミング、医療、教育、その他多くの分野でオンライン化されて、その過程で人間が現実を体験する方法を変革してきた。 The Age of AI では、3 人が集まり、AI が、私たちと知識、政治、社会との関係をどのように変えるかについて考察した。 この本は、現在とこれまでに経験したことのない時代である未来への必須のロードマップである。The Age of AI is an essential roadmap to our present and our future, an era unlike any that has come before.
私にとって印象深かったのは、AIに対して人間の監視監督、コントロールの重要性を説いていて、AIによって、今何が生まれようとしているのか、それは人類にとってどの様な意味を持つのか、それを説明できる、AI時代のデカルトでありカントが必用だと指摘して、来るべきAI時代への人類の指針を展開していることである。
AIを設計し、訓練し、パートナーとする人々は、これまで人類には手が届かなかったような複雑でスケールの大きい目標を達成することが出来る。新たな科学的ブレイクスルー、新たな経済効率、安全保障、社会的監視や管理の手段などである。
しかし、一方、そのようなかたちで、AIの勢力拡大のプロセスや使用に関与できない人々は、自分には理解できない、設計も選択もしなかったものに、監視され、研究対象とされ、影響されているという感覚を抱くであろう。
AIを設計し活用する人々は、こうした懸念の解消に取り組むべきで、とりわけ、技術専門家でない人々に、AIが何をしているのか､何をどの様に知っているのかを説明する必要がある。と言う。
動的で創発的というAIという性質が､曖昧さに繋がるパターンが少なくとも二つある。
一つ目は、AIが人間の期待通りに動いても､予見していなかった結果が出るパターンで、それによってAIは、設計者が想定もしていなかった場所へ人類を連れて行くかも知れない。慎重に検討もせずにAIを使うと重大な結果を引き起こす恐れがあり、軍事対立など重大な事態のこともある。
もう一つは、一部のアプリケーションに見られる、AIは完全に予測不可能で、その行動はすべてサプライズというパターンである。チェスのアルファゼロのように、「チェスの試合に勝て」と指示しただけで、人間が誰一人考えたことのない戦法を編み出したように、自由を与えられたAIが見いだすその達成方法は、人間にとって意外な、時にはぞっとするようなものである。
したがって、AIの目的や権限は慎重に設計する必要があり、AIの判断が命に関わることがあるならば、AIにすべてお任せというのは許されない。人間の監督、監視、あるいは直接的管理なしに、取り返しの付かない行動が出る許可を与えてはならず、人間が作り出したAIは、人間が監督すべきである。
ところが、AIを開発する能力やリソースを持つ人々が、それが社会全体に及ぼす影響を理解する必用な哲学的視点を持ち合わせておらず、基本的に自分たちの開発しようとしているアプリケーション、解決しようとしている問題のことしか考えていない。自分たちが生み出す解決策が歴史的革命を引き起こす可能性、あるいは自分たちの技術が多様な集団に及ぼす影響を考えることもない。
必用なのは、今何が生まれようとしているのか、それが人類にどの様な意味を持つのかを説明できる、AI時代のデカルトでありカントだ。と言うのである。
ここまでの論考は、納得がいく。
しかし、AIは、人間の理性によって動くわけでもなく、人間のような動機付けや意図もなければ、内省もない。人間社会で使われている正義の原則をそのまま適用することも0難しい。AIが社会に引き起こすジレンマは深刻である。
著者達は、AIの行動を制限するために、政府、大学、民間部門のイノベーターを巻き込んで合理的な議論や交渉を重ねて、現在、個人や組織に課せられているようなルールを策定すべきだとして、現状を幅広く分析しながら、多方面から、対処法や処方箋を提示している。
いずれにしろ、AIの未来は、混沌としている。
最後に、著者達は、次の文章で結んでいる。
AIが成功すればするほど、新たな問題も生じる。
人間の知能がAIと遭遇した今、国家、大陸、さらには、世界規模の探究への応用が進んでいる。この変化を理解し、指針となる倫理を確立するには、科学者や戦略家、政治家や哲学者、宗教指導者や経営者など社会を構成する様々なメンバーが積極的に関与し、知恵を出し合う必要がある。国内的にも国際的にもこのようなコミットメントが求められており、人間とAIのパートナーシップとはどの様なものか、今こそ明らかにする必要がある。
安直なAI本ではなくて、先哲の教えにも匹敵するようなan essential roadmap to our present and our future、
エリザベス女王の正真正銘の国葬に先を越されて、国民の過半が認めない色褪せた国葬らしきものを強行突破しようとしている我が日本の政府に、このような知恵の片鱗さえも有りや無しや。
