朝日記241224 Stuart Russel,”不確定性ロボットについて”On Robot with Uncertainty” and Today's drawings

朝日記241224 Stuart Russel,”不確定性ロボットについて”

荒井康全　２０２４・１２・２４

　和文と英文版として校正再掲載版です；
（初版；朝日記170906 Stuart Russel, ”On Robot with Uncertainty” and Today's drawings
2017-09-06 06:57:36 | 社会システム科学）

 

～～和文版　本文～～
朝日記170906 Stuart Russel, "On Robot with Uncertainty" and Today's drawings
私の友人で、ロンドンのバリー・バーン氏は引退したエンジニアです
AIロボット会議の資料を送ってくれました。
私はこれに、一瞬で捕らえられました。
ですから、ドイツのHerrmann-Pillath教授とのコミュニケーション研究の一環として、私は特にAIとその心に興味を持っています。
だから、私はこれを以下に報告しています。あなたのコメントは大歓迎です。
今日の描画の写真は次の5sです。
( 「あらいやまさギャラリー展」 2017年8月1日〜9月4日
横浜銀行つくし野)、
(つくし野風景)、(奥多摩の風景)、
(アダンの海、田中一村へのオマージュ)、(フラワリー)
 
徒然こと１　　スチュアート　ラッセル「不確実性をもつロボットについて」
～～～
 テーマ:スチュアート・ラッセル「On Robot with Uncertainty」
By 荒井康全 2017/09/05
 
1.[TEDトピックス] TED topics
 
テッド[i]会議「ロボットの過負荷社会。この会議には、大学入試に合格し、人間の価値観を学ぶことができるロボットから、パーソナルモビリティの未来(ヒント:私たちは飛ぶつもりです)まで、私が興味を持っている多くのトピックがあります。Dr.Araiのプレゼンテーションのメッセージを友人から送ってもらいました(大学入試に合格できる東京大学のロボット)。本稿では、スチュアート・ラッセルStuart Russel’の“Teaching robots human value”「ロボットに人間の価値を教える」という哲学的な入り口としてのプレゼンテーションに焦点を当てます。
 
2.[スチュアート・ラッセルのロボット教育の人間価値] Stuart Russel’s Teaching robots human value
ロボットに人間の価値観を教える。全知全能のロボットを目指して働く時代に、スチュアート・ラッセルは反対のもの、つまり不確実性を持つロボットrobots with uncertaintyに向かって取り組んでいます。彼は、これがAIの全力を活用しながら、ロボットによる乗っ取りのハルマゲドンを防ぐための鍵であると述べています。ロボットが知能が高くなったり、プログラムされた目的から逸脱したりするのではないかと心配するとき、それは「価値の整合問題」“the value alignment problem,”と呼ばれるものだとラッセルは説明します。では、ロボットが文字通りでの目的objectivesに従うことなく、私たちが望むことを正確に行うようにかれらをプログラムするにはどうすればよいでしょうか?結局のところ、ラッセルが警告するように、私たちは友人全員が金になりわったミダス王のようにはなりたくないのです。この解決策には、利他的なロボットの目的altruistic robot’s objectiveにおいて不確実性uncertaintyを創じさせ、人間の行動を観察することで学んだ人間の価値観human valuesに関する知識でそのギャップを埋めるように教える、Human-Compatible AIが含まれます。この人間の常識をロボットに作り出すことは、「AIの定義を変えて、有益な機械beneficial machinesを持つことになります...そして、うまくいけば、その過程で私たちはより良い人間better peopleになることを学ぶでしょう。」という話題です。　　　
 
3.[スチュアート・ラッセルのキーフレーズへの私の選択] My selection to Stuart Russel’s Key phrases:
#1利他的なロボットの目的に不確実性を生じさせ、
#2 人間の行動を通じて学んだ人間の価値観の知識でそのギャップを埋めるように教える。
#3人間の価値ギャップGap human value
#4 ロボット乗っ取りハルマゲドンArmageddon of robotic takeover
#5 人間相応AI　Human-Compatible AI
#6 「AIの定義を変える」ことは有益beneficialか?　より良い人々Better peopleになるか?
 
4. [不確実性のあるロボットについて] On robot with uncertainty
ここでは、哲学的な視点からの不確実性uncertaintyに焦点を当て、技術としてのAIについてコメントしましょうか」。

私は「不確実性」‘uncertainty’という概念を主観と客観との双対定理dual theoremとして書きます。
No.1の客観・目標objectives
確実性に欠ける認識、
概念以前に来ている知識knowledge (;「衣類を仕分けるクローゼット」などの理解としてのカテゴリー)、
事実としての現象phenomenonの前に、物事matterを感じる前に、外部に存在するexternal existingな知識として考えます。

No.2 主観的・価値・意識的subjectives
曖昧ambiguityさの下での認知；
(人a personにおいて価値(;欲望、欲求、必要性)として心mindに来る前に内的internallyに出現する) 自覚・意識・主観。awareness, consciousness.　
アイデアとしてのnoumenonの前に、
直感(;利他主義、秩序、義務、義務、必要性の感情)を感じる前に、
内面的internallyにも精神的mentallyにも、存在exisitingする主観。
 
スチュアート・ラッセルの仮説は、彼がもっぱらNo.1を取っているので、AIはマシンプロセッサmachine processorであるというものです。
それは、AIが自己の心(;意志will)の境界boundaryから分離して存在し立っていると定義されることを意味します。
そのため、価値設定value settingの機能functionはありません。AIは、人間からの命令による初期化initiationによって開始し、これを至上最終指令として稼働する機械です。AIが利他主義者altruistでやっているのか、そうでないのかは、人間の意志に沿ってnaturallyに決まるのです。　
ここで私が考えるのは、AIはテクノロジーによって生み出された機械に過ぎず、他の機械と同じカテゴリーに属すると仮定しています。
その結果、アカデミーや経済市場での技術科学者が、いわゆる「人間互換AI」を研究し、開発していることは理解できます。
ああ、「ロボット乗っ取りってのハルマゲドン」については、実現可能そうです。
「腕」‘arm’という言葉は社会生活social lifeの力であると同時に、その破壊の力power for battleでもあります。言葉遣いではなく、「ハルマゲドン」を好む邪悪な存在evil beingが忍び込むできます。
 　
AIが「不確実性」’Uncertainty’を上記のNo.2として、特にNo.2を伴ったNo.1になることは、哲学的の基本的な課題です。記号意味論的進化システムSemiotic Evolutional Systemを含む多くの思考パラダイムは、現在、研究パラダイムがありそうです。
 
上で話していますが。私はスチュアート・ラッセルの「価値整合問題」“value alignment problem”,を支持しており、これは暫定的に非常に適切な範囲と人間社会の技術革新への有用な入り口を提供します。
しかし、この手記の最後に、人間社会が二つの巨大な怪物に直面したというコメントを付け加えなければなりません。一つはトマス・ホッブズの『リヴァイアサン』 (経済と政治を征服する)で、もう一つは『ベヒモス』 (技術と科学の収集を征服する)です。後者は急速に成長し、危険だと思います)。 

 徒然こと２　　あらいやすまさギャラリー絵画展のこと
今日の絵
この夏、私はコミュニティバンクで小さな展示会を開催しました
「荒井康全ギャラリー展」、2017年8月1日〜9月4日、横浜銀行つくし野支店。
箱根、北海道などの作品15点と、日常のスケッチ。
写真は下に投稿されていますので、しばらく見てください。感謝。
 
 
（ 'Arai-yasumasa gallery exhibition',August 1 to September 4, 2017,
  Yokohama Bank Tsukushino)
 (Tsukushino landscape)
 (Okutama scenery)

 

～～英文版　本文～～English version　below:

朝日記170906 Stuart Russel, ”On Robot with Uncertainty” and Today's drawings

A friend of mine, Mr. Barry Byrne in London who is a retired engineer

has sent me an material from the conference of AI robots.

I have been captured by this ,at a moment.

So, as a part of  the communication research with  Prof.Herrmann-Pillath of Germany, I have especially an interest on AI and its mind.

So, I am reporting this below. Your comment is welcoming.

 Today's pictures of drawing are the following 5s;

（ 'Arai-yasumasa gallery exhibition',August 1 to September 4, 2017,

  Yokohama Bank Tsukushino),

(Tsukushino landscape),

(Okutama scenery),

(Adan no Umi, homaged to Tanaka Isson),

(Flowery)

～～English version　below:

 

　Essay of Today ~ Stuart Russel ”On Robot with Uncertainty”

徒然こと　　スチュアート　ラッセル「不確実性をもつロボットについて」

～～～

Theme: Stuart Russel, ”On Robot with Uncertainty”

   By Yasumasa  Arai                       2017/09/05

 

1.[TED topics]

 

TED ^[i] has a conference, ”Our robotic overlords. This conference has many topics of my interest,’ from robots that can pass college entrance exams and learn human values to the future of personal mobility (hint: we’re going to fly)’.  My friend has sent a message of Dr. Arai’s presentation (The University of Tokyo’s robots that can pass college entrance exams.

Here, I  pay a focus on Stuart Russel’s presentation “Teaching robots human value” as philosophical gateway.

 

2. [Stuart Russel’s Teaching robots human value]

Teaching robots human values. In an age of working toward all-knowing robots, Stuart Russell is working toward the opposite — robots with uncertainty. He says that this is the key to harnessing the full power of AI while also preventing the Armageddon of robotic takeover.  When we worry about robots becoming too intelligent or deviating from their programmed purpose, we’re worrying about what’s called “the value alignment problem,” Russell explains. So how do we program robots to do exactly what we want them to without them following their objectives too literally? After all, as Russell cautions, we don’t want to end up like King Midas whose friends all turned to gold. The solution involves Human-Compatible AI, which focuses on creating uncertainty in an altruistic robot’s objective and teaching it to fill that gap with knowledge of human values learned through observing human behavior. Creating this human common sense in robots will “change the definition of AI so that we have provably beneficial machines … and, hopefully, in the process we will learn to be better people.”

 

3.[My selection to Stuart Russel’s Key phrases]:

#1 Creating uncertainty in an altruistic robot’s objective   and

#2 Teaching it to fill that gap with knowledge of human values learned through human behaivior.

#3 Gap human value

#4 Armageddon of robotic takeover

#5 Human-Compatible AI

#6 “change the definition of AI”  beneficial?  Better people?

 

4. [On robot with uncertainty]

I am paying a focus on uncertainty from the philosophical views and commenting on AI as a techonology.

 

I write  concept ‘uncertainty’ as dual theorem; 

No.1 objectives for      

 recognition under being not in certainty,  coming

 before knowledge as concept(; categorical  as understanding such as ‘closet at sorting clothes’),

before a phenomenon as a fact,

before sensing an matter ,thought as external existing

No.2 subjectives for

 recognition under ambiguity  (, coming

 before mind as value(;desire, want, need) internally emerged at a person),

 before a noumenon as an idea,

 before sensing an intuition(; feeling of altruist, order, duty, obligation, necessity ),

 thought as internally or mentally  as exisiting.

 

 Stuart Russel’s hypothesis, that he is taking exclusively no.1 ,then  AI  is a machine processor

 It means that AI is defined itself standing as being  in separation out of boundary of self mind(; will). 

So, it has no function of value setting. AI is a machine, which start by initiation by a human order, as extremum end commander. Whether AI is doing under altruist or not altruist, naturally depent by a human will.

I  here, presume  AI, which is just a machine produced by a technology, is belonged within the same  category as the other machine.

It is quite understandable that a technical scientist, in academy and also in economic market, is consequently studying and developing so called ‘Human-Compatible AI’.

Ah, as for ‘Armageddon of robotic takeover’, it is feasible in realization.

The word ‘arm’ is  a power for social life, at the same time, is a power for battle.

Not with wording, there sneakedly comes some evil being who likes ‘Armagedon’

 

As for  AI  holding ’Uncertainty’ with above no.2 ,especially no.2 with no.1, is a fundamental philosophical theme. Many paradigm of thought , including Semiotic Evolutional System, are now extending to study.

 

Though talking above. I support Stuart Russel’s“value alignment problem”, which  gives tentatively a very appropriate scope and useful gateway to technological innovation for human society.

But at the end of this letter, I have to  add the comment that Human society has confronted two of giant monsters; one is Thomas Hobbs’ Leviathan(conquering economy and politics) and the other Behemoth(conquering technology and science collect). I believe the latter are quickly grown and dangerous).

 徒然こと　２　　あらいやすまさギャラリー絵画展のこと

Drawing of Today

This summer,I have held an tiny exhibition at a community bank　in terms of

'Arai-yasumasa gallery exhibition',August 1 to September 4, 2017,Yokohama Bank Tsukushino.  

15 pieces of drawings from Hakone, Hokkaido, and everymorning sketches.

Pictures  are posted below and stay a look for a while. Thanks. 

 

（ 'Arai-yasumasa gallery exhibition',August 1 to September 4, 2017,

  Yokohama Bank Tsukushino)

(Tsukushino landscape)

(Okutama scenery)

(Adan no Umi, homaged to Tanaka Isson)

(Flowery)

 

 

---

[i] Live from TED2017 TED Conferences

Our robotic overlords: The talks of Session 2 of TED2017

http://blog.ted.com/our-robotic-overlords-the-talks-of-session-2-of-ted2017/

Posted by: Alejandra Vasquez, Brian Greene, Julia Dickerson, Kate Torgovnick May and Rebekah Barnett          

April 25, 2017 at 5:35 pm EDT