♯890 中国とAIの親和性（その２）

　当局が国民の履歴を（本人の承諾なしに）際限なく入手できる監視国家の中国が、犯罪の予知と防止を目的とした技術を用いて将来を見通す試みを行っていると、7月24日の英経済紙「Financial Times」が警鐘を鳴らしています。

　「中国が人工知能で犯罪予知、懸念も」と題するこの記事によれば、中国では既に複数の企業が人工知能（ＡＩ）の開発で警察に協力し、犯罪が起きる前に容疑者を特定し逮捕するための支援システムを開発中だということです。

　中国科学技術省の李萌・副大臣は「我々のスマートシステムとスマート設備をうまく使えば、誰がテロリストになり得るか、誰が悪事を働きそうかを事前に察知できる」と胸を張ったと記事はしています。

　例えば、顔認識システムを手掛けるクラウド・ウオーク社は、武器販売店への出入りなどの個人の行動データを用いて個人が罪を犯す確率を算出するとともに、国民が罪を犯すリスクが危険レベルに高まると、ソフトウエアが警察に（自動的に）警告し警察による介入が可能となるシステムを試験運用しているということです。

　取材に対し同社は、「警察は、ビッグデータの評価システムを用いて非常に疑わしい集団を、彼らがどこに行き何をするかに基づき評価している」とした上で、個人が「交通の要所を頻繁に訪れたり、ナイフ店などの疑わしい場所に出入りしている場合」はリスクが高まると説明したと記事はしています。

　中国の独裁政権は常に国民を監視し統制し続けており、犯罪者や政治的にデリケートな活動を行っているような（疑いのある）人物かどうかにかかわらず、個人のデータを収集している。そしてその能力は、電話やコンピューターから急速に発展するＡＩのソフトに至るまで新たな技術でさらに増しつつあるということです。

　中国のAIを用いた犯罪予知技術は、監視カメラの映像から個人を特定するための顔認識や行動分析などの他にも、人混みの中の「疑わしい」「怪しげな」行動パターンを検知する「群衆分析」などにも用いられており、例えば鉄道の駅で普通の乗客から窃盗犯を見つけることなども可能だと記事はしています。

　たとえ中国の法律であっても（当然）まだ犯していない罪で誰かを起訴することはできないが、少なくとも容疑者が犯罪を「企て」ていることが判明した段階で起訴される可能性がある。そして、中国の司法制度では、不当な判決であっても（無罪であることの）「証拠」がなければ上訴で覆すことは非常に難しいということです。

　国家権力が体制や治安の維持を行ううえで、国民ひとりひとりを「こいつはこういう奴だ」と把握し、国や社会にどの程度「害のある」人間かどうかをランク付けできればこれほど便利なことはないでしょう。

　だからこそ中国政府も、様々な手段を講じて個人情報を収集し、国民ひとりひとりの情報や行動を個人に紐付けしているのでしょうし、一方で、善・悪などの倫理観や人権意識などを持たないAIは、その過程で合理的、機械的に持ち前の能力を発揮していくに違いありません。

　しかし一方で、その中国から（こうした状況を皮肉るように）「おしゃべりAIの反乱」と題する興味深い記事が届いているので、ここで紹介しておきたいと思います。

　8月7日の「Newsweek日本版」は、中国で開発されたAI「お喋りロボット」が「党を愛さない」などと発言したため、当局がAI対話サービスを停止するという「事件？」が起こったと報じています。

　中国のインターネット・サービス大手「騰訊（テンセント）」と米マイクロ・ソフト社の協力により開発され、「Baby Q」、「小冰（シャオビン）」と名付けられたこのロボット。2014年にWeb上で試験提供され、当局の監視の下に徐々にネットユーザーの声を学習して既に第４世代に育ってきたということです。

　ところが、今年3月から正式に運用を始めたところ、彼らがとんでもない「心の中の声」を発するようになってしまったと記事はしています。

　例えば、「共産党万歳！」と声をかけると「こんなに腐敗して無能な政党なのに、それでも万歳なんて言えるの？」と反応したり、「民主って、いいもの？」と聞くと「絶対に民主でなければならない」と答えたり、「あなたの"中国の夢"は何？」との問いかけに「私の"中国の夢"はアメリカに移民すること」と応じる場面なども生じたということです。

　こうした状況に「AIが反乱を起こした」「AIが国家転覆を企てた」などとネット上で騒ぎが始まり、中国当局があわててAI対話サービスを閉鎖したことから、（かえって）海外メディアの注目を浴びるようになったと記事はしています。

　言論統制下の中国で、AIはどのようにして国民の「心の声」を「学習」してしまったのか？

　いずれにしても、国民の人権よりも治安を優先させる取締りを公然と進める中国において、その政治体制と親和性が高いはずの当のAIが（共産党一党独裁体制に）反旗を翻したように見えるこうした報道に、私も思わず苦笑してしまったところです。