AIやビッグデータの話題が最近多くなって
きた。
スマホの普及により、個人の生活や活動が
FB、Twitter、LINE、Amazonなどさまざ
まなアプリを通して把握されている。
個人データが何百何千万も集まったビッグ
データはどのように使われているのか。
警告の書が出た、
インターシフト発行 1850円
著者はハーバード大学で数学の博士号を取
得したデータサイエンティストのキャシー
・オニール氏。
アメリカでは統計などの数学を駆使して、
業界のプロの判断をアルゴリズム化してい
った。
このアルゴリズムをコンピューターに任せ
ていくとどうなるのか？
キャシー・オニール氏は「数学破壊兵器」
と呼んだ。
WMD(Weapons of Math Destruction)
大量のMassと数学のMathをかけている。
教育、宣伝、正義、就職、仕事、信用、身
体、政治と各分野で、人間としていかがな
ものかと思う事例を述べている。
はじめに、の最初に教師選別の例をあげて
いる。子どもの成績が悪いのは教師の質が
悪いからだと教師の評価を数値化し、低い
ものを解雇していった。
このとき使ったのが、IMPACT（教師評価
ツール）で、コンピューターがはじきだし
た下位２％を解雇。さらに翌年は５％を解
雇した。
たしかに成績の平均は上がった。
しかし、解雇されたなかには生徒からも父
母からも信頼されていた優秀な教師が含ま
れていた。
解雇された教師は、「なぜか」と質問して
も学校側は誰もわからない。最後はコンピ
ューターの結果だとしか言えない状況にな
ってしまった。
だれもコンピューターに組み込まれたアル
ゴリズムを理解できないからだ。
著者は「数学破壊兵器」によるこうした理
不尽な、さまざまなひどいケースを紹介し、
警鐘を鳴らしている。
なぜこんなことになるのか。
最大の問題は、経営のトップによる効率化
と利益の最大化ではないのか。
マルクスの資本論の世界そのものだ。
「資本」の意思がアルゴリズムに反映して
いく。
統計は過去のデータから未来を推計するに
すぎない。
人間がつくるアルゴリズムには、作る側の
意志、嗜好が必ず入る。
日本の学力テストもそうだ。
人間を正規分布に押し込むという逆転現象
が起きる。下位のσや２σの人間を排除して
いくという非人間的なものとなっていない
だろうか。人間の可能性、多様性、すばら
しさの芽を摘んではいないのか。
この著作のおわりの章は「人間だけが未来
を創造できる」と結んでいる。
キーワードは、透明化、人権、民主主義で
あろう。
最後に私の過去のブログも
ビッグデータの悪用、ぞっとするお話し⇒
人生の「点数化」→
2045年 ⇒
BMI AI LAWS ⇒