2018年に中国で開催されたセキュリティに関する展示会で、監視カメラメーカーのCCTVカメラを覗く参加者たち Thomas Peter- REUTERS
＜デジタル技術の進歩によって、政府が国民を監視する能力は飛躍的に向上した。監視の先頭を行く中国は国内の少数民族を弾圧し、その技術を世界中の独裁者に輸出し始めている＞
米テック大手マイクロソフトは、軍事研究を行う中国の大学と提携して、政府の監視と検閲の機能を強化する人工知能（AI）システムを開発している。両者の事業提携に米上院議員2人が公に批判の声を上げているが、懸念されるのは、中国の国防科技大学がマイクロソフトに望んでいることだけではない。
不可解な制度や人権侵害が多い国では、AIシステムがより大きな被害をもたらす可能性が高い。中国はその代表的な例だ。政権幹部はAI技術を熱烈に受け入れ、新疆ウイグル自治区に世界最新の監視システムを構築、住民の日々の動きとスマートフォン使用状況を追跡している。
中国によるこれらの技術の悪用は、世界の独裁者たちにとっては格好の手本となり、開かれた民主的な社会にとっては、直接の脅威となる。中国以外の政府がこのレベルのAIによる監視を再現したという証拠はないが、中国企業は同様の基礎技術を世界中へ積極的に輸出している。
進む警察のAI依存
人工知能システムは世界のいたるところに存在し、スマートフォンやインターネット検索エンジン、デジタル音声アシスタント、ネットフリックスの映画一覧表示機能を支援する。分析するデータ量の増加、アルゴリズムの向上、高度なコンピュータチップのおかげで、AIがいかに急速に拡大しているか、気づかない人は多い。
より多くの情報が入手でき、分析が容易になるときはいつでも、政府は興味を持つ――それは独裁政権だけではない。たとえばアメリカでは1970年代に、政府の情報機関（FBI、CIA、NSAなど）が公民権運動家や政治活動家、アメリカ先住民のグループを監視し、攻撃するための広範な国内監視ネットワークを設立したことが明らかになった。
こうした問題は消え去ってはいない。今日のデジタル技術のせいで、より多くの組織がもっと深く入り込んで対象を監視することができるようになった。
たとえば、アメリカの警察は積極的にAI技術を採用している。警官がパトロールをすべき場所を決めるために、犯罪が起こりそうな場所を予測するソフトウェアを使い始めた。また犯罪捜査にも顔認識とDNA分析を使用している。
だがこうしたシステムによる分析は、データが偏っていることが多く、アフリカ系アメリカ人は他のグループより犯罪に手を染めやすいという誤った判断を下すなど、不公平な結果につながりかねない。
100万人を恣意的に拘禁
独裁政権の国では、AIシステムによる国内の統制と監視の直接的な支援が可能になる。国内治安当局が大量の情報処理をする際も強い味方だ。処理すべき情報に含まれるのは、ソーシャルメディアの投稿やテキストメッセージ、eメール、電話など。警察はこうしたシステムから明らかになった情報に基づいて、社会の動向と政権を脅かす可能性がある特定の人々を割り出すことができる。
たとえば、中国政府は、国内の少数民族居住地域での大規模な取り締まりにAIを使用している。新疆ウイグル自治区とチベット自治区に対する監視システムは、ジョージ・オーウェルの小説『1984年』に登場する全体主義社会の市民に対する常時監視システムを思わせるところから「オーウェル式」と呼ばれている。
こうしたシステムには必ずDNAサンプル、Wi-Fiネットワークの監視および広範な顔認識カメラが含まれ、すべて統合データ分析プラットフォームに接続されている。米国務省によると、これらの制度を利用して中国当局は、100万人から200万人を「恣意的に拘禁」している。
世界54カ国に中国のAI監視技術が
私の調査対象は、タイ、トルコ、バングラデシュ、ケニアなど閉鎖的な独裁政権から欠陥のある民主主義政権まで、世界90カ国に及んでいる。この研究の過程でわかったのは、研究対象のうち54カ国に中国企業がAI監視技術を輸出していることだ。
多くの場合、このテクノロジーは、中国が最も力を注いでいる経済外交圏構想「一帯一路」の一部に組み込まれている。中国はこの構想のもとで道路や鉄道、エネルギーパイプライン、電気通信などの広範なネッワークに資金を提供。最終的に世界のGDPの40％を生み出し、世界の総人口の60％がこの経済圏で暮らすことを目標としている。
たとえば、中国通信機器大手ファーウェイやZTE社などの中国企業は、パキスタン、フィリピン、ケニアで、監視技術を組み込んだ「スマートシティ」を構築している。
フィリピンの先進商業地区ボニファシオ・グローバルシティでは、「犯罪の発見と交通管理のためのデータ分析機能を備えた24時間365日稼働するAIによる監視」を可能にするために、ファーウェイの高解像度インターネット接続カメラが設置された。
中国の画像・顔認識技術企業であるハイクビジョン（海康威視）やYITU（依图）、センスタイム（商湯科技）は、最先端の顔認識カメラを提供。国内監視プログラムの設立を発表したシンガポールは、国内にある街灯11万本の柱にこうした顔認識カメラを設置するという。ジンバブエは、顔認識に使用できる全国的な画像データベースを作成している。
ただし、高度な機器を販売して利益をあげることと、この技術を明確な地政学的目的で共有することとはまた別の話だ。こうした新しい能力は、世界規模の監視体制の素地を作ることになるかもしれない。政府は国民の管理や権力の維持にあたって、中国の技術への依存を深めていくだろう。だが今のところ、中国の主な動機は新技術の市場を独占し、その過程で多くの金を稼ぐことであるように思われる。
ニセ情報も作れるAI
広範囲にわたり、かつ精度の高い監視機能を提供することに加えて、AIは抑圧的な政府が利用可能な情報を操作し、不正な情報を拡散させる手助けもする。こうした活動は自動化することもできるし、特定の人やグループ、あるいは特定の個人向けのメッセージを展開することもできる。
AIはまた、非常にリアルな動画と音声の「ディープフェイク」と呼ばれる合成技術の進歩に貢献している。真実と嘘の境界を混乱させることは、選挙が接戦になったときには役に立つかもしれない。対立候補が現実とは異なることを話したり、行ったりするところを見せるニセ動画を作成できるかもしれない。
民主主義国の政策立案者は、自分たちの社会や世界中の全体主義政権の国で生きる人々に対するAIシステムのリスクについて慎重に考えるべきだ。
重要な問題は、中国のデジタル監視モデルをどの国が採用するのか、ということだ。だが、それは全体主義的な国だけではない。また売り込むのも中国の企業だけではない。マイクロソフトを含む多くの米企業――IBM、シスコ、サーモフィッシャーなどは、問題のある政府に高度な技術を提供してきた。AIの悪用は独裁国家の専売特許ではない。
