｢人間は何でもAI任せにしていいのか｣AI研究者と東大特任講師が出した結論
プレジデントOnline より 210316 三宅 陽一郎,江間 有沙
近い将来、人間のさまざま仕事を人工知能（AI）が奪うともいわれている。いわば「生命」に近づきつつあるAIに対して、人間はどう向き合うべきなのか。人工知能研究者の三宅陽一郎さんと東京大学特任講師の江間有沙さんが語り合った――。
※本稿は、1月13日に行われた『人工知能が「生命」になるとき』（PLANETS）の刊行記念イベントの一部を構成したものです。
⚫︎介護用に使われるロボットには、女性らしい名前が
【江間有沙（以下、江間）】人工知能（AI）技術は基本的に過去のデータを基に新しいものを予測したり、判断したりする技術です。ある意味、過去の再生産をしていく。そう考えたときに、私たちが当たり前と思っているこの社会の価値や表現は、そのコミュニティー以外の人にとって当たり前なのか、と立ち止まって考えることが必要だと思います。
フランスのアルデバラン社（現ソフトバンクロボティクス）が開発した「NAO」というロボットは英語では「He＝彼」と称されて教育や医療などさまざまな分野で使われていますが、介護用に使われるときに「Zora」という名前が付けられています。
写真提供＝日本サード・パーティ
日本サード・パーティが販売するソフトバンクロボティクスのヒューマノイドロボット「NAO」の新バージョン「NAO6」。 - 写真提供＝日本サード・パーティ
Zoraはフランスでは女の子の名前らしく、プロモーションビデオでも「歌って踊れてエクササイズの指導やお話もできる若い女の子（young girl）」と紹介されている。これは介護＝女性の仕事という考え方が暗黙の裡にあるため起きるのでしょう。こうした社会的な役割や表現の再生産が起きていることに、まずは気づくことから始めないといけません。
「みんなを平等に少しずつ幸せに」と楽観的な科学者たち
【三宅陽一郎（以下、三宅）】ほとんどの科学者は楽観的で、われわれは社会の根底を変えているのだと考えているかと思います。たとえば電気の発明で言えば、電気が通るのは，最初はニューヨークやロンドンやパリだけかもしれませんが、やがて世界中に電気が行き渡ってみんなが電気のおかげで少しずつ幸せになっている。同じように人工知能も、社会を底上げして、「みんなを平等に少しずつ」幸せにできる。そう無邪気に考えています。
人工知能研究者の三宅陽一郎さん
僕の場合、ゲームキャラクターのAIの製作が専門ですが、ちょっとかわいいモンスターの形にしたときに、「その表現にはバイアスがある」と言われて、「え、そうなの？」となることがあります。
【江間】表現の自由とのバランスはありますが、ジェンダー、人種、宗教などセンシティブな問題に関しては、特に欧米が問題意識は強いです。問題意識は国によって差がありますが、ジェンダーに関しては日本でも公共の場できわどい格好の女性やアニメのポスターとか、役割を固定するような表現をしたものが問題になる事例が増えてきました。
【三宅】パブリックとプライベートの形成は、日本とアジアでも違うし、ヨーロッパ、アメリカでも違うのかなと思います。
⚫︎「初音ミク」や「たまごっち」は西洋では作れない
【三宅】たとえばヨーロッパでは、子供の頃なら人形やぬいぐるみなどを愛でてもいいけれど、大人になる過程でそれはやめようという流れがあります。大人文化と子供文化の間に明確な境界があります。パブリックには大人文化に入れないということは未成熟な人間とみなされる。大人文化が許容できる形状は、日本から見ると無味乾燥な四角や丸に限られる。だから、スマートスピーカーの形状も筒やボックスになるのですよね。
それに対して、日本はキャラクター文化があるので、大人になってフィギュアを買っていても社会的にはじかれはしないように徐々になった。もともとあいまいにしていた大人文化と子供文化の境界がますますあやふやなものになりつつあります。
この20年でさらに軟化していて、キャラクターに対するキャパシティが日本はすごく広い。こういったパブリックとプライベートの形成の違いが、よい意味での人工知能の可能性を実現しているのではないかなと思います。キャラクターの力とAIのエージェント技術が結びついて「初音ミク」や「たまごっち」、「aibo」など、西洋では作れないようなエージェントが日本から生まれています。
⚫︎人工知能に対してどんな「権利」を認めるべきか
【江間】ここで、人工知能学会の倫理指針の9条の話をしたいのですが。私も三宅さんもメンバーになっている人工知能学会倫理委員会で、2017年に倫理指針を作りました。このうち1条から8条までの主語はすべて「人工知能学会員」ですが、9条の主語だけは「人工知能」となっています。
9 （人工知能への倫理遵守の要請）人工知能が社会の構成員またはそれに準じるものとなるためには、上に定めた人工知能学会員と同等に倫理指針を遵守できなければならない。
これについて、海外の方から「社会の構成員として扱うために義務を課すのであれば、構成員であるがゆえの責任も伴うはずである。義務を与えて権利や責任を与えないのであれば、これはダブルスタンダードではないか」と指摘を頂いたことがあります。三宅さんはそのあたりをどう考えていますか。
PS4用ソフト『デトロイト ビカム ヒューマン』（クアンティック・ドリーム，2018年）
【三宅】『Detroit: Become Human』（クアンティック・ドリーム，2018年）というゲームがあります。人工知能が賢くなって社会に組み込まれている世界が舞台で、人間とは見た目は同じ人工知能が召使いとして働いています。でも、バスに乗るときは人間と隔離されていて、社会はさまざまな軋轢を抱えている。最終的には人工知能が権利を求めて人間に反乱するという物語です。
人工知能の開発者としては、ここまで人工知能が発達して、義務と権利の問題が顕在化するとするまでに至るならすごいことだと思いますが、まだ人工知能はその段階に達していない。だがそこへ向かって進んでいる。なので、この議論は未来の現実を想定した議論でたいへん不謹慎かもしれませんがとてもワクワクします。
⚫︎「美空ひばりAI」「レンブラントAI」は不謹慎なのか
【江間】現状のAIはまだそのレベルではないということを前提とした上で、あえて踏み込みたいと思います。人間は社会的な生き物ですし、技術には目的がなければいけません。だから、社会性のあるAIを作ろうとするなら、技術の構想や開発の段階から社会との関係性を考えておかないといけない。つまり倫理的な価値について設計の段階から考える必要がありますし、現行の法律や制度との整合性についても開発段階から考えていかなければならない。
東京大学特任講師の江間有沙さん
【三宅】私は極めて東洋的な立場で、人工知能が生成的に生まれてくるものだとしたら、それらの生物が自分たちで倫理を作っていくというのがベストだと考えています。人工知能が自分たちで自分たちの倫理を策定する場合、一番重要なのは、この世界に対する理解だと思います。人間とは何か、生物とは何か、地球とは何か。それらを理解した上で、その倫理を守る根拠を共有する必要があります。
【江間】AIが自分たちで自分の倫理を作るとすること自体がまだそのレベルにないので、現状では技術者や研究者が代わりに考えていかなければならないと思います。そして、技術そのものではなく、社会とどのように接するかというインターフェースのデザインも重要です。
たとえば最近、「美空ひばりAI」とか「レンブラントAI」といった故人の能力を模したAIや、自分の親族など身近な人をよみがえらせるAIの在り方について鼎談をしました。そこで東京大学の松原仁先生は「49日で消えるようなインターフェースにすればいいと思う」と言われていました。AI研究者は、AIがどういう文脈で使われるものなのか、何の目的で使われるのかを踏まえたうえで、デザインすることが求められると思います。
⚫︎「人間には自然や人工物を統治する責任がある」という西洋的発想
【三宅】人工物を限りなく人間に寄せて作ることの是非は、まさに本質的な議論が必要なところだと思います。オバマ前大統領のフェイク動画が話題になりましたが、画面越しに見るだけではフェイクなのか本物なのかわかりません。ドイツはすでにフェイクニュースやフェイク画像に非常に厳しい罰則をかけるようになっていますよね。これは、ヨーロッパには社会を人間がビルドアップしてきたというプライドがあるからだと思います。だから人工知能に関しても最初から厳しく規制して、安全を確保した上ですすめようとしています。
【江間】それは三宅さんがずっとおっしゃっている、キリスト教の根底にある考え方ですよね。人間には神の代理人として自然や人工物を統治する責任がある。そこには子供も動物も入ってくる。だからこそ責任問題もはっきりしています。ところが、境界が曖昧になると責任の所在とうまくつながらなくなってしまう。どこがどう責任を取るかも曖昧になってしまう。これは自律性を持ったAIを議論するまでもなく、自動運転をはじめ、もうすでに問題になっています。
「ドラえもん」のような人間と対等なAIをどう作ればいいのか
【三宅】義務と責任の話は極めてヨーロッパ的で、理路整然とした正しい議論だとは思います。一方で自分は、そういった社会的な問題を考える前提として、人工知能が明確に人間から区別されることに対して、そういうものを曖昧にしたい、つまり生物と非生物の境界をなるべく柔らかくしたいという考えをしています。
僕のところにもよく相談が来られるのですが、今、いろいろな企業がAIを作ろうとして悩んでいるのは、マーケティングをすると家族みたいなAI、仲間としてのAIがアイデアとして上がってくるけど、そういうAIをどうやって作ればいいのかというところです。
暗黙のうちに仮定されてきたことですが、普通、ここでいうのはアカデミックな伝統の上では、という意味ですが、人工知能はそんな作り方はしないんですね。たいてい人間と人工知能、上下関係の下でエージェントとして作ります。「ドラえもん」みたいな人間と対等な仲間としてのAIという方向の研究は伝統的にとても少なかったのです。
⚫︎AIとしては稚拙でも、人間は恋人や家族以上の情を持てる
その中で今うまくできているのは、「場を設定して動かす」という形です。要するに自律型人工知能とか汎用人工知能ができていないので、結局、場を設定しないことには人工知能は動かない。このプレイグラウンドの中だけで人間と戯れてくださいとか、この店舗の中だけでタスクを行ってくださいとか、うまく場を設定すれば動かせます。
【江間】使う場面や制約をうまく利用すれば、たとえ稚拙なAIでも、恋人や家族以上の情を持てるのが、人間の想像力のすごさだとも思います。AIの技術や表現で足りない部分は、想像力で人間が補完している。そこには依存や中毒といった問題も垣間見えています。
依存といえばもう一つ、人間はすでに記憶や思考能力をネットや外部端末に依存したサイボーグとなっています。文章を紙で書くこともほとんどなくなった。人との関係性や購入するものもSNSのアルゴリズムに強く影響されている。記録だけではなくて思考も機械に預けているわけですよね。そうなるとAIは他者というより、自己が拡張したものとして扱うという方向性もある。
【三宅】いま、起こっていることもそうです。インターネットが自分の一部になっているから、みんなインターネット上で争い始めるわけですよね。今、人間同士が生身で接していることでさまざまな問題が起こっていますが、その間に人工知能が入っていくことによってギスギスした人間社会を変えていくかもしれないと、楽観的に捉えています。
つまり、自分の分身みたいな人工知能がいて、相手も分身を持っていて、人間同士の関係が間接的なものになれば、ネット上の争いはなくなり、平和が訪れる。そういう社会の形もあるのではないかなと考えます。
⚫︎「技術は中立」と言い切れるほど、物事は単純ではない
【江間】それが幸せな社会なのか不幸せな社会になるかは技術思想の問題や、技術と人との関係性を私たち一人ひとりがどう受け止めるかという価値の議論になってくると思います。技術を作る側がこういう社会がハッピーだよねと言ったとしても、その社会像の中で見落とされているステークホルダーはいないだろうか、と。そうしないとある人にとってはユートピアでも、見落とされている人たちにとってはディストピアになってしまう。
【三宅】そうですね。江間さんとの対談を通してわかったことは、科学技術社会論は人工知能の研究に必要だということです。つまり、技術の力で社会がよくなるとして突っ走る人が必要である一方、それを逆の立場から調整するみたいな強い力も必要です。この二つがせめぎ合いながら未来が創られていくというのがよいのではないかなと思いました。
【江間】技術は中立でAIにはポジとネガ、両面の可能性があると考える人もいますが、物事はそんなに単純ではありません。ポジネガのようにくっきりと善悪付けられるものでもなく、また技術を使うのは人間であるので、誰がどういう目的でどう使うのか、誰の目線で技術を見るのかによっても相対的にAIと人が作り出す社会の評価は変わってきます。
だからこそ開発段階からさまざまな可能性について、多少気にしすぎといわれても考えていくことが、社会科学者の役割と責任だと思います。そしてその懸念をAIの研究分野の人たちにも共有していただいて、議論を重ねていくことで、むしろその制約や懸念を乗り越えるような新しい研究や価値が出てくるかもしれないと期待しています。
⚫︎三宅 陽一郎 ゲームAI開発者
京都大学で数学を専攻、大阪大学（物理学修士）、東京大学工学系研究科博士課程を経て、2004年よりデジタルゲームにおける人工知能の開発・研究に従事。立教大学特任教授、九州大学客員教授、東京大学客員研究員、国際ゲーム開発者協会日本ゲームAI専門部会チェア、日本デジタルゲーム学会理事、芸術科学会理事、人工知能学会理事・シニア編集委員。著書に『 人工知能が「生命」になるとき』（PLANETS）、『 人工知能のための哲学塾』（ビー・エヌ・エヌ新社）、『 ゲームAI技術入門』（技術評論社）など。
⚫︎江間 有沙 東京大学未来ビジョン研究センター特任講師
2017年1月より国立研究開発法人理化学研究所革新知能統合研究センター客員研究員。専門は科学技術社会論（STS）。人工知能学会倫理委員会委員。日本ディープラーニング協会理事。2012年東京大学大学院総合文化研究科博士課程修了。博士（学術）。著書に『 AI社会の歩き方』（科学同人、2019）など。
（構成＝大内孝子）
