⌘ 進歩したAIは 人間には理解できない エイリアン のような存在になる 202106

進歩したAIは人間には理解できない｢エイリアン｣のような存在になる
　　プレジデントonrain より　210602   小林 武彦

　人間はAI（人工知能）とどのように共存していけばいいのか。東京大学定量生命科学研究所の小林武彦教授は「最大の問題はAIは死なないということだ。どんどん私たちが理解できない存在になっていく可能性がある」という――。
※本稿は、小林武彦『生物はなぜ死ぬのか』（講談社現代新書）の一部を再編集したものです。

⚫︎あくまでAIはツールであるべき
　AIと共存していく社会について、考えてみましょう。

　AIは何らかの答えを出してくれますが、問題はその答えが正しいかどうかの検証をヒトがするのが難しいということです。

　大切なことは、何をAIに頼って、何をヒトが決めるのかを、しっかり区別することでしょう。

　よく使われるものとして、データをコンピュータに学習させて、それを基に分析を行う機械学習型のAIがあります。これは過去の事例からの条件（重み付け）にあった最適な答えを導き出すので、その学習データの質で答えが変わってきます。

　画像診断のように、見落としなどがないように医師を助ける道具としては非常に役立ちます。ただ、例えば過去の事例にないケースの判断は難しいですが、最終的には「答えを知っている」医師が判断すればいいので問題はありません。

　機械学習型ではなく、SF映画に登場するヒトのように考える汎用型人工知能はどうでしょうか？　まだ開発途中ですが、さまざまな局面でヒトの強力な相談相手になることが期待されています。

　こちらはヒトが「答えを知っている」わけではないので使い方を間違うと、かなり危険だと思っています。

　なぜなら、ヒトが人である理由、つまり「考える」ということが激減する可能性があるからです。一度考えることをやめた人類は、それこそAIに頼り続け、「主体の逆転」が起こってしまいます。ヒトのために作ったはずのAIに、ヒトが従属してしまうのです。

　ではそうならないようにするには、どうすればいいのでしょうか。私の意見としては、決して「ヒトの手助け」以上にAIを頼ってはいけないと思います。

　あくまでAIはツール（道具）で、それを使う主体はリアルなヒトであるべきです。

⚫︎人間は一世代ごとにリセットされる
「いや、AIのほうが賢明な判断をしてくれるよ」とおっしゃる方もおられるでしょう。

　しかし、それは時と場合によります。いつも正しい答えが得られるという状況は、ヒトの考える能力を低下させます。ヒトは試行錯誤、

　つまり間違えることから学ぶことを成長と捉え、それを「楽しんで」きたのです。喜劇のコントの基本は間違えて笑いを誘い、最後はその間違いに気づくことが面白いのです。

　逆に「悲劇」は、取り返しがつかない運命に永遠に縛られることに、恐怖と悲しみを覚えるのではないでしょうか。

　AIは、人を楽しませる面白い「ゲーム」を提供するかもしれません。

　しかし、リアルな世界では、AIはヒトを悲劇の方向に導く可能性があります。

　そして何よりも私が問題だと考えるのは、“AIは死なない”ということです。

　私たちは、たくさん勉強しても、死んでゼロになります。そのため文化や文明の継承、つまり教育に時間をかけ、次世代を育てます。

　一世代ごとにリセットされるわけです。

　死なないAIにはそれもなく、無限にバージョンアップを繰り返します。

　私は1963年の生まれで、大学生の時（1984年）にアップル社からマッキントッシュ（Mac）のコンピュータが発売され、その後ウィンドウズが誕生したのを体験してきました。ゲームも、フロッピーディスクに入った「テトリス」を8インチの白黒画面でハイスコアを競ったものです。その後のパソコン、ゲーム機、スマホなどの急速な進歩は、本当に驚きです。

⚫︎死なないAIは世代を超えて進歩していく
　私はコンピュータの急成長も可能性も脆弱性も知っている「生みの親」世代です。そしてコンピュータが「生みの親」より賢くなっていくのを体感しています。

　だからこそAIの危険性、つまりこのままいったら絶対にやばいと直感的に心配になるのかもしれません。いつまで経っても子供が心配な親の心境に似ています。

　その危機感について自分の子供の世代には警鐘を鳴らせますが、孫の世代はどうでしょうか。孫たちにとってはヒト（特に親）の能力をはるかに凌駕したコンピュータが生まれながらにして存在するのです。タブレットで読み・書き・計算を教わり、私情が入らないようにと先生の代わりのAIが成績をつけるという時代にならないとも限りません。そんな孫の世代にとっては、AIの危険性より信頼感のほうが大きくなるのは当然です。

　死なないAIは、私たち人間と違って世代を超えて、進歩していきます。一方、私たちの寿命と能力では、もはや複雑すぎるAIの仕組みを理解することも難しくなるかもしれませんね。

　人類は1つの能力が変化するのに最低でも何万年もかかります。その人類が自分たちでコントロールすることができないものを、作り出してしまったのでしょうか。

⚫︎命は有限だからこそ「生きる価値」を共有することができる
　進歩したAIは、もはや機械ではありません。ヒトが人格を与えた「エイリアン」のようなものです。　しかも死にません。　どんどん私たちが理解できない存在になっていく可能性があります。

⚫︎小林武彦『生物はなぜ死ぬのか』（講談社現代新書）
　死なない人格と共存することは難しいです。例えば、身近に死なないヒトがいたら、と想像してみてください。その人とは、価値観も人生の悲哀も共有できないと思います。非常に進歩したAIとはそのような存在になるのかもしれません。

　多くの知識を溜め込み、いつも合理的な答えを出してくれるAIに対して、人間が従属的な関係になってしまう可能性があります。

　私たちがちょうど自分たちより寿命の短い昆虫などの生き物に抱くような、ある種の「優越感」と逆の感情を持つのかもしれません。「AIは偉大だな」というような。

　ヒトには寿命があり、いずれ死にます。そして、世代を経てゆっくりと変化していく――それをいつも主体的に繰り返してきましたし、これからもそうあることで、存在し続けていけるのです。

　AIが、逆に人という存在を見つめ直すいい機会を与えてくれるかもしれません。生き物は全て有限な命を持っているからこそ、「生きる価値」を共有することができるのです。

⚫︎本当に優れたAIは自分で自分を破壊するかもしれない
　同様にヒトに影響力があり、且つ存在し続けるものに、宗教があります。もともとその宗教を始めた開祖は死んでしまっていても、その教えは生き続ける場合があります。

　そういう意味では死にません。

　ヒトは病気もしますし、歳を重ねると老化もします。ときには気弱になることもあります。そのようなときに死なない、しかも多くの人が信じている絶対的なものに頼ろうとするのは、ある意味理解できることです。

　AIも将来、宗教と同じようにヒトに大きな影響を与える存在になるのかもしれません。

　宗教は、付き合い方を間違うと、戦争やテロにつながるのは歴史からご存じの通りです。ただ、宗教のいいところは、個人が自らの価値観で評価できることです。それを信じるかどうかの判断は、自分で決められます。

　それに対してAIは、ある意味ヒトよりも合理的な答えを出すようにプログラムされています。ただ、その結論に至った過程を理解することができないので、人がAIの答えを評価することが難しいのです。

　「AIが言っているのでそうしましょう」となってしまいかねません。何も考えずに、ただ服従してしまうかもしれないのです。

　それではヒトがAIに頼りすぎずに、人らしく試行錯誤を繰り返して楽しく生きていくにはどうすればいいのでしょうか？

　その答えは、私たち自身にあると思います。つまり私たち「人」とはどういう存在なのか、ヒトが人である理由をしっかりと理解することが、その解決策になるでしょう。

　人を本当の意味で理解したヒトが作ったAIは、人のためになる、共存可能なAIになるのかもしれません。そして本当に優れたAIは、私たちよりもヒトを理解できるかもしれません。

　さて、そのときに、その本当に優れたAIは一体どのような答えを出すのでしょうか？　――もしかしたらAIは自分で自分を殺す（破壊する）かもしれませんね、人の存在を守るために。

⚫︎小林 武彦/東京大学定量生命科学研究所教授(生命動態研究センター ゲノム再生研究分野)
1963年、神奈川県生。九州大学大学院修了(理学博士),基礎生物学研究所,米国ロシュ分子生物学研究所,米国国立衛生研究所,国立遺伝学研究所を経て現職。前日本遺伝学会会長。現在,生物科学学会連合の代表も務める。生命の連続性を支えるゲノムの再生(若返り)機構を解き明かすべく日夜研究に励む。海と演劇をこよなく愛する。著書に『 寿命はなぜ決まっているのか』（岩波書店）、『 DNAの98％は謎』（講談社ブルーバックス）など。