あなたを支配し、社会を破壊する、AI・ビッグデータの罠

アメリカのデータサイエンティストである著者が、AI・ビッグデータ活用の場で何が起こっているか問題点を具体例とともに紹介し、警鐘を鳴らします。

キャシー・オニール著・久保尚子訳
「あなたを支配し、社会を破壊する、AI・ビッグデータの罠」
(Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy)

2013年に読んだ「ビッグデータの正体」がおもしろかったので、その後、AIやビッグデータをめぐる社会はどう変わったか、興味があったので読んでみました。

「ビッグデータの正体」は、ビッグデータの可能性というポジティブな部分にフォーカスしていましたが、その約５年後に出版された本作は、ビッグデータがもたらす弊害、あるいは害悪にスポットを当てて書かれています。

＊＊＊

英語の原題は、数学破壊兵器(Weapons of Math Destruction)。大量破壊兵器に例えた刺激的なタイトルですが、著者は数学が専門で数学が好きだからこそ、愛と戒めをこめてつけたのだと、数学専攻の私は受け止めました。

そして「ビッグデータの正体」を読んだ時にも書きましたが、AIやビッグデータが引き起こすさまざまな問題は、数学が悪いのではなく、利用する側の人間の倫理観の欠如が問題なのだと改めて実感しました。

＊＊＊

たしかに数学は、例えば原子力などと比べると静かなる兵器といえるかもしれません。例えば第２次世界大戦時には、数学者のアラン・チューリングがドイツの暗号を解読するためにコンピュータを考案し

しかも、暗号を解読したことがドイツ側に悟られないように、統計を使って被害を最小に抑えるべく、味方の軍艦を犠牲にしました。

＊＊＊

また数学を悪用することによって、直接的に命を奪うことはなくても、リーマンショックに始まった金融危機など、数字を操作することで、経済的に大きな打撃を与え得るという意味では、兵器に匹敵するかもしれません。

本書で「良いモデル」として紹介されている、ブラッド・ピットの映画でも知られる「マネーボール理論」でさえ、その後は他の球団もこの理論を取り入れるようになって、試合がつまらなくなったということも起きました。

＊＊＊

本書で問題としているのは、教師の能力の数値化や、大学の格付け、就職希望者の適性審査など。これらは、いずれも複雑にプログラムされた採点基準によって評価されますが、その結果、子どもたちや保護者から絶大な信頼を得ている教師が低評価が与えられ職を解かれる

といった問題が実際に起きたそうです。例えば生徒の共通テストの点数を上げることに重きを置けば、ひとりひとりに対する細やかな指導など、数値化しにくい部分が見逃されてしまうこともあり得ます。

＊＊＊

数学を悪用した目くらましによって、公正・公平性が失われ、恣意的に用いられないようにするためには、人間の良心と倫理観に頼るだけでなく、疑問を持つ目を養うことも必要であると考えます。