『AI vs. 教科書が読めない子どもたち』 新井紀子

	AI vs. 教科書が読めない子どもたち
	新井 紀子
	東洋経済新報社

Kindle版にて読了。

数学者の新井紀子さんによるAI論、というより、AI時代の教育論・社会論。
現在もてはやされているAIの限界を語るとともに、その限界あるAIで代替されてしまうレベルの能力しか持たない子供たち（人間）が増えてしまっている教育や社会のあり方に対して強い危機感が語られる。

前半部は、AIブームに対する著者なりの解説。
「AIはコンピューターであり、コンピューターは計算機であり、計算機は計算しかできない。それを知っていれば、ロボットが人間の仕事をすべて引き受けてくれたり、人工知能が意思を持ち、自己生存のために人類を攻撃したりするといった考えが、妄想に過ぎないことは明らか」と、数学者ならではの視点でやや冷めた見解が述べられる。

チェスや将棋のルールのようにある限定された条件の下では、推論と探索はその並外れた計算力で力を発揮することはできても、条件が簡単には限定できない現実の問題を前にすると、推論と探索だけでは無力であることが明らかになったのです。これは「フレーム問題」と呼ばれる今なおAI開発の壁となっている課題の一つです。

ディープラーニングは、「大量のデータを与えればAI自身が自律的に学習して人間にもわからないような真の答を出してくれる仕組みのことだ」と誤解されていることが多いようですが、そんな夢のようなシステムではありません。一定の枠組み（フレーム）の中で、十分な量の教師データを準備すると、これまで人間が手作りで試行錯誤していた部分も含めてAIがデータに基づき調整することで、伝統的機械学習に比べて、低コストでそれと同等か上回る正解率に達しやすいのです。夢のような誤解をすることの危うさを、少しはおわかりいただけたでしょうか。

「いつの日か、教師データを作ったり、目的や制約条件を設定したりという作業から人間は解放されますか」とよく尋ねられます。省力化はされるかもしれませんが、完全に解放されることはないと思います。AIやロボットは 「人間社会で」役立つように作られる必要があります。「役に立つとは何か」を知っているのは、人間だけです。ですから、人間がなんらかの方法で正解をAIに教えなければなりません。

中盤では、著者が中心となって進めた「東ロボくん」プロジェクトの内容と結果が紹介される。
AIが東大の入試に合格することを目的としたプロジェクトを通じて、AIの限界が明らかとなる一方、東ロボくんは一定程度の成果（MARCHレベルの大学への合格可能性80％判定）を成し遂げる。

著者は、東ロボくんプロジェクトと並行して実施した全国の大学生の数学力調査の結果から、論理的な読解と推論の力を著しく欠いている学生があまりに多いことに気づいたことを契機に、中高生を対象にした基礎的読解力を調査するテストを実施することとなる。
そして、表層的理解はできるが 、推論や同義文判定などの深い読解ができない生徒が少なくない割合で存在することを確認する。
そのような生徒は、コピペでレポートを書いたり、ドリルと暗記で定期テストを乗り切ったりすることはできても、レポートの意味やテストの意味は理解できない。
要は、AIに似ている。
AIに似ているということは、AIに代替されやすいということであり、そのことに著者は深い問題意識を抱く。

問題文に出てくる数字を使ってとりあえずなんらかの式に入れてる「当てようと」してしまう。
そんな生徒が少なからずいることは確かに想像に難くない。
そして、そのような「タスク」を超高速で効率的にこなすことこそが、AIが最も得意とすることだというのも全くもって理解しやすい話だ。

後半部では、著者の深刻な懸念が綿々と語られる。

東ロボくんがMARCHクラスの大学合格圏内の実力を身につけたことを考えると、AIに仕事を奪われる社会で、人間しかできないタイプの知的労働に従事する能力を備えた人は全体の20％に満たない可能性がある。
今の日本の教育が育てているのはAIに代替される能力であり、AIに対して優位に立てるはずの読解力で、十分な能力を身につけさせることができていない。
その結果、どのような事態が予想されるか。

AIは自ら新しいものは生み出しません。単にコストを減らすのです。本来はAIにさせることによってコストを圧縮できるはずなのに、それをしなかった企業は、市場から退場することになります。そして、一物一価に収斂するまでの時間がどんどん短くなっていくのです。それがAIによって起こると考えられる、ディスラプティブな（破壊的な）社会変化です。この時代を乗り切れない企業は、破綻したり吸収されたりする前に、人間を苛酷に働かせたり、品質管理を疎かにしたりすることでAIに対抗しようとしがちになります。当然、職場はブラック化しやすくなり、不祥事が起きやすくなるはずです。

私の未来予想図はこうです。企業は人不足で頭を抱えているのに、社会には失業者が溢れている ─ ─。折角、新しい産業が興っても、その担い手となる、AIにはできない仕事ができる人材が不足するため、新しい産業は経済成長のエンジンとはならない。一方、AIで仕事を失った人は、誰にでもできる低賃金の仕事に再就職するか、失業するかの二者択一を迫られる ─ ─。私には、そんな社会の姿がありありと目に浮かびます。そして、それは日本にだけ起こることではありません。多少のタイムラグはあるとしても、全世界で起こりうることです。

では、どうしたらよいのか？
AIに代替されることのない「なんの仕事とはっきりとは言えないけれども、人間らしい仕事」をやっていくしかない、と。

重要なのは柔軟になることです。人間らしく、そして生き物らしく柔軟になる。そして、AIが得意な暗記や計算に逃げずに、意味を考えることです。生活の中で、不便に感じていることや困っていることを探すのです。

考えてみれば当たり前の結論に到達した感があるが、この「当たり前」こそが最も難しいし、そこに気づける人と気づけない人の断絶は大きい気がする。。


ところで、本論からはやや外れるが、現在の第三次AIブームにおいて、米国の企業が勝ち組になっていること、日米のAIに対する認識の差が生じていることの一つの要因として著者があげていた内容が個人的に興味深かったので、以下メモしておく。

もう一つの理由は、AIへのリアルなニーズが多くの米企業にあることです。アメリカではグーグルやフェイスブックなどが、途方もないデータが自動で蓄積される「無償サービス」を世界規模で拡大しています。大規模無償サービスでは、「人手をかけずにサービスを提供できるかどうか」を正確に判断することが経営の成否に直結します。

一方、日本は基本的にモノづくりの国です。製品を作って販売しています。開発費を上乗せした価格で製品が売れる見込みがなければ、新機能は搭載できません。しかも製造物責任を負う必要もあります。そこで求められる「精度」は、グーグルやフェイスブックのようなユーザー責任の無償サービスとはまったく異なります。つまり、ディープラーニングのような統計に基づく判断で重大事故を招いたとき、モノづくり企業はその責めを負わせられる立場になります。賠償責任だけでなく、事故によるブランド毀損も考えないと簡単に手は出せないでしょう。さらに、日本のモノづくりの現場である工場は、既に世界最先端のロボット化に成功しています。となると、AIをどこに使えばよいのかよくわかりません。