アメリカのデータサイエンティストである著者が、AI・ビッグデータ活用の場で何が起こっているか問題点を具体例とともに紹介し、警鐘を鳴らします。
2013年に読んだ「ビッグデータの正体」がおもしろかったので、その後、AIやビッグデータをめぐる社会はどう変わったか、興味があったので読んでみました。
「ビッグデータの正体」は、ビッグデータの可能性というポジティブな部分にフォーカスしていましたが、その約５年後に出版された本作は、ビッグデータがもたらす弊害、あるいは害悪にスポットを当てて書かれています。
＊＊＊
英語の原題は、数学破壊兵器(Weapons of Math Destruction)。大量破壊兵器に例えた刺激的なタイトルですが、著者は数学が専門で数学が好きだからこそ、愛と戒めをこめてつけたのだと、数学専攻の私は受け止めました。
そして「ビッグデータの正体」を読んだ時にも書きましたが、AIやビッグデータが引き起こすさまざまな問題は、数学が悪いのではなく、利用する側の人間の倫理観の欠如が問題なのだと改めて実感しました。
＊＊＊
たしかに数学は、例えば原子力などと比べると静かなる兵器といえるかもしれません。例えば第２次世界大戦時には、数学者のアラン・チューリングがドイツの暗号を解読するためにコンピュータを考案し
しかも、暗号を解読したことがドイツ側に悟られないように、統計を使って被害を最小に抑えるべく、味方の軍艦を犠牲にしました。
＊＊＊
また数学を悪用することによって、直接的に命を奪うことはなくても、リーマンショックに始まった金融危機など、数字を操作することで、経済的に大きな打撃を与え得るという意味では、兵器に匹敵するかもしれません。
本書で「良いモデル」として紹介されている、ブラッド・ピットの映画でも知られる「マネーボール理論」でさえ、その後は他の球団もこの理論を取り入れるようになって、試合がつまらなくなったということも起きました。
＊＊＊
本書で問題としているのは、教師の能力の数値化や、大学の格付け、就職希望者の適性審査など。これらは、いずれも複雑にプログラムされた採点基準によって評価されますが、その結果、子どもたちや保護者から絶大な信頼を得ている教師が低評価が与えられ職を解かれる
といった問題が実際に起きたそうです。例えば生徒の共通テストの点数を上げることに重きを置けば、ひとりひとりに対する細やかな指導など、数値化しにくい部分が見逃されてしまうこともあり得ます。
＊＊＊
数学を悪用した目くらましによって、公正・公平性が失われ、恣意的に用いられないようにするためには、人間の良心と倫理観に頼るだけでなく、疑問を持つ目を養うことも必要であると考えます。
ビッグデータってよく耳にしますが、詳しい事は知らないので、こういう本は勉強になりますね。
最近は何でもデータ重視で、それは確かに正しい方向性を示す事も多いだろうし、効率の面から言っても良い側面もあるだろうとは思うのですが、確かに個人的にはそれで良いの？っていう気持ちもあります。
例えば書店業界だと、昔はスリップで売り上げや発注を管理してましたが、今はデータだけが取次にとんで、ほぼ勝手に配本されてきます。店員は何が売れたかPCでチェックしないとわかんないんですよ。
まだまだスリップを入れている本も多いのですが、いずれは全てがデータになるんじゃないかな。
それで面白い売り場がつくれんのか・・といつも疑問に思ってます。
人事に関しては人って、その職場での重要性が必ずしも生産性と結びついていない場合も多いから難しいですよね。
色々と考えさせられますね。
ビッグデータによって、私たちの生活は確実に便利にはなっているのですが
実際のところ、データを生かすも殺すも
使う側の人間のさじ加減...ということがあるのだと思います。
それに人間の肌感覚が意外と真実をついている時もありますしね。
天気予報とか、人間関係とかは
結構自分の直感の方が正しいかも、ということがよくあります。^^