猫じじいのブログ

子どもたちや若者や弱者のために役立てばと、人権、思想、宗教、政治、教育、科学、精神医学について、自分の考えを述べます。

「AI支配」はAIが支配でなく、支配にAIが利用されること

2019-09-08 21:33:56 | 脳とニューロンとコンピュータ



「AI」という言葉が、ここ数年、IT業界の枠を越えて、社会のいたるところで使われ、ますます意味不明の言葉になっている。

例えば「AIつきのクーラー」という宣伝があったとき、それは「コンピューターで制御される自動運転のクーラー」という意味にすぎない。

ここで、コンピューターとは、デジタル・データ(記号列)の入力を処理してデジタル・データを出力する機械で、その処理もデジタル・データで制御される。コンピューターは、性能を問題にしなければ、非常に小さいものや安価のものある。腕時計やネクタイピンやメガネのフレームにも搭載可能である。

安価で小さいコンピューター部品を生産する中国のファーウェイ(HUAWEI)をメディアが称賛するなら、理解できるが、AIを称賛するなんて、バカではないかと思う。

朝日新聞は、ネットで、AIを次のように説明する。

《厳密な定義はないが、記憶や学習といった人間の知的な活動をコンピューターに肩代わりさせることを目的とした研究や技術のこと。AIは “Artificial Intelligence”(人工知能)の略。》

どうして、人間の知的な活動が「記憶や学習」なのか、私にはわからないが、ここは、「記憶や学習にもとづく判断や行動」と置き換えた方が、定義として、すこしだが、ましである。

そして、人間に代わってコンピューターができることになったら、それは、知的な活動とは言えない。
将棋や囲碁でコンピューターが勝つということは、もはや、将棋や囲碁は知的な活動ではない。しかし、将棋や囲碁はゲームであって、人間の楽しみとして、言語を要しない社交の1つとして、歴史に残るであろう。

AIの実現方法はいろいろある。30年から40年前には、課題にルールを次々と適用していくシステムを、AIの現実的な実現方法と考えられていた。現在は、AIシステムというと、「学習」して、状況データから最善の選択を確率的に判断する自動システムをいうことが多い。

ここで、「学習」とは、データとその判断の組を入力として、データと判断とを結びつけるルールを自動作成することをいう。ニューラル・ネットワークとは、データと判断を結びつけるルールを何段階かのネットワーク(経路)であらわすことをいう。ディープ・ラーニングとは、確率的に最適の判断をするネットワークを自動作成する手法のことである。ディーブ・ラーニングはコンピューターに適した手法であって、別に、人間や動物の脳が、ディーブ・ラーニングの手法を使っているわけではない。

昨年の8月11日の朝日新聞の「読書」面に、長谷川真理子が、キャシー・オニールの『あなたを支配し、社会を破壊する、AI・ビックデータの罠』の書評を書いていた。そこで現在の「AI・ビックデータ」を「数学をまとった兵器」と非難していた。

ここでのAIは、ビッグ・データを解析して確率的に個人の行動を予測する自動システムをいう。ディープ・ラーニングなどが使われる。

個人の行動をAIで予測することには、私も強く反対する。個人の人間としての尊厳を踏みにじるものだ。

今年、リクルートが「内定辞退率」という学生の不利になりかねない情報を、選考企業に販売するというサービスをおこなった。これは、ネットユーザーが個人情報を無意識にネット上に露出するようになっており、それをもとに、AIを適用し、「内定辞退率」を求めることができるからである。

確率的判断とは、判断に誤りがあっても良いということを前提としている。判断を利用する側にとっては、判断に誤りがあってもかまわないが、判断される側の個人にとっては、その間違いはトンデモナイことになる。

人間が行う面接でも誤りがあるが、面接官には自分が人の人生を踏みにじったかもしれないという心の痛みを感じる。そして、どうしようもない奴を採用したという自嘲の気持ちをもつ。

機械に判断させれば、何があっても、心の痛みを感じることがない。

もっとはっきりした事例を考えよう。戦争で人を敵として殺すか否かの判断をAIに任すことを考えよう。もちろん、敵でも殺すことはいけないと思うが。機械に判断を任すことは、人を殺すことに、痛みを感じなくなる。戦争による殺人行為がエスカレートする危険がある。

けさ(9月8日)の朝日新聞に、イスラエルの歴史学者、ユヴァル・ノア・ハラリのインタビュー『AI支配 大半が「無用者階級」』が載っていた。

私はそんなことは、少なくとも、この100年はないと思う。起きるのは、AIが人間を支配するのではなく、一部の人間が他の人間を支配するためにAIを利用することだ、と思う。そして、リクルートの「内定辞退率」がその先駆けである。

私たちがすべきことは、AIを恐れることでもなく、コンピューターを打ち壊すことでもない。人間が人間を支配することを拒否し、みんなが政治に参加することである。

他人に不幸をもたらすことに痛みを感じたくない、あるいは、感じない人は昔からいる。こういう人が自分の利益のために、ビッグデータの売買をしたり、AIを使うことを、規制していかないといけない。銃規制と同じくAI規制やビッグ・データ規制が必要になったのだ。