レッシグ教授が考える「AIと中国」本当の脅威
野村 明弘:東洋経済 解説部コラムニスト より210409
SNSなどプラットフォーマーによる個人データ利用やプライバシーの問題は、AIが拡大すればさらに深刻化しかねない
アメリカの著名法学者である ローレンス・レッシグ・ハーバード大学教授に聞くインタビューの後編。
4月7日に配信したインタビュー前編( 「SNSがトランプ危機を引き起こしたカラクリ」)でレッシグ教授は、SNS(交流サイト)などプラットフォーマーの広告のビジネスモデルがいかに人々を分断させ、「トランプ危機」をもたらしたのかを説明。その対応策として政府が、個人データの利用について適切なものと不適切なもの、その中間領域としてユーザーの同意を求めるものを事前に区別して規制することを提案した。
インタビュー後編では、ますます台頭するAI(人工知能)と中国の将来について話を聞いた。
⚫︎ある日突然、AIがあなたの保険加入を排除する?
――今後、AIの利用がどんどん拡大していくと、個人データ利用に関するプライバシーなどの問題はもっと厄介になりそうです。
こんな研究があるのをご存じですか。書いたものをAI技術に通すだけで、書き手の認知機能低下を判断できるという驚くべきものです。その人の表面を見ただけではわからなくても、AIなら書いたものの言葉の微妙な変化を観察して認知症の有無を特定できるそうです。
こうなると、たとえば、私の昔と最近の本を勝手にAIでスキャンして私が認知症かどうかを特定することを誰も止められません。保険会社はAIの推定結果を基に私の保険加入を拒否するでしょう。
しかし、私の考えではこれは個人情報です。誰かが個人データを利用してAIで推論を行い、その推論によって個人が不利になるべきではありません。そうしたものは個人データ利用と同様に規制されるべきです。
もちろん公衆衛生政策の目的として、ある集団における認知症の割合を推定するといったことなら問題ないと思います。
――想像を超えたことが将来の大問題になる可能性がありますね。私たちの社会は将来、AIをコントロールできるのでしょうか。あなたが話した「個人データ利用に関する規制」の議論をそのままAIに適用すればいいのでしょうか。
AIについては異なった課題もあると思います。私が最も重要だと考える課題は透明性の確保です。著書『CODE』では、ソフトウェアのソースコードは(人々の振る舞いを左右するという意味で)法律や規則と同じだと論じましたが、AIもそうです。
同書ではオープンソースと商業用ソフトの違いを指摘しました。オープンソースなら、誰でもプログラムを読むことができるため、そのプログラムの中で人々の振る舞いがどのように規制されているかを理解することができます。しかし、ソースコードが秘匿される商業用ソフトではわかりません。
AIでは、この種の問題が桁違いの大きさで浮上しています。ブラックボックス化したAIでは文字どおり、結果に至るまでのプロセスが誰にもわかりません。AIでは大量のルールを設定し、大量のデータを投入するだけで、人々の振る舞いへの規制が始まります。それはデータと設定された目的関数に基づいており、どのように(人々の振る舞いを決める)区別や識別が行われているのかはわからないのです。
現在では、人間がプロセスを解釈できるAIや、どんな価値観を推進しているかを読み取ることができるAIの開発も始まっています。そのような透明性を確保し、自由な社会の価値観に照らしてテクノロジーが何をしているのかをテストできることは最低限必要です。これはAIにおける特有の課題と言えます。
もう1つの課題は、AIが個人データ利用の規制をしっかりと守っていることについて、人々が確信を持てるようにすることです。私たちの社会は、企業に法律を守らせ、違反した場合には十分なペナルティを与えるということが非常に下手です。
AIが公共の価値に反していないという確信が、国民の間にしっかりと築かれる必要がありますが、そのためには、AIを使う企業を規制するよりよい方法を見つけなければいけません。
――AIが労働を置き換えることによって、現在ある職務の約半分は将来、なくなってしまうという予測があります。あなたは将来のAI社会について悲観的ですか。
{ローレンス・レッシグ(Lawrence Lessig)/アメリカ・ハーバード大学ロースクール教授。1961年生まれ。アメリカ・ペンシルバニア大学卒業、英ケンブリッジ大学で哲学修士号、米イェール大学で法学博士号を取得。2016年米大統領選挙に出馬するなどアクティビストとしても活動。著書に『CODE』『コモンズ』『REMIX』『彼らは私たちを代表していない』など}
AIが社会を破壊するような発展を遂げ、ディストピア(暗黒郷)のような未来になる可能性はあるでしょう。
しかし、私はユートピア的な未来もあると考えています。AIは人生における仕事のわずらわしさの大部分を取り除くことができるでしょう。
それを見て多くの人の職が失われると言うかもしれませんが、裕福な社会はベーシックインカムを導入し、人々が少なくとも健康的な生活を送るためには働くことに依存しないようにすべきだと考えます。
仕事のほとんどが機械によって行われるため、週に50時間も働く必要のない未来を想像してみると、それはより幸せで豊かな社会であるかもしれません。
問題は、人間がAIのために働くのではなく、AIが人間のために働くようにすることです。そのための方法を考えていく必要があります。
⚫︎最先端のAIを持つ中国の脅威
――AIと並ぶ、もう一つの民主主義への脅威として、中国の問題があります。中国はAIやIoT(モノのインターネット)を活用して、国家による監視社会を構築しました。ある意味で、あなたが『CODE』において危険な可能性として警告したディストピア的な社会を現実化させています。中国の将来についてはどう考えますか。
これは本当に難しい質問です。なぜなら、中国には政治的に非効率なものもありますが、現実として今の彼らは、統治のための並外れたインフラを持っているからです。
中国はほかのどの国よりも広範囲にわたってAI技術に投資しています。それらのAI技術は比較的中央集権的な経済システムに直接接続され、経済を牽引したり強力な規制を展開したりしています。
習近平国家主席の登場以前では、指導者がシステムを腐敗させるリスクは少ないと話してきましたが、今は自信がありません。今の指導者層には社会を自分の見解に合わせようとする動機がつねにあり、社会制度が民主的な権力によってコントロールされていない危険性があります。
しかし一方で、経済や政治の社会システム内に構築されたスーパーコンピュータによるインテリジェンスのインフラによって、私たちにできないことが、彼らにはできることも認識する必要があります。
支配と自由の競争は今、新しい局面を迎えています。かつてスターリンのソ連とアメリカの間で起きた戦いよりもずっと困難です。
なぜなら、すべてを永続的に監視し、それに基づいて微妙に調整する能力をソ連は持っていませんでしたが、今日の中国は持っているからです。それにより、計画経済モデルは、アメリカの戦いに勝つ新たなチャンスを獲得しています。
私たちはこの問題で自信を持つべきですが、どのように解決されるのかはまだわかりません。
――新型コロナウイルスの危機では、中国が感染抑制や経済成長などで一段と台頭したのに対し、アメリカの民主主義社会はあまりよい政策決定を行えませんでした。世界がアメリカ的な民主主義に向ける目も厳しくなっていますが、立ち直ることはできるのでしょうか。
パラグ・カンナ氏(シンガポール国立大学公共政策大学院アジア・グローバリゼーションセンターのシニアリサーチフェロー)は著書『Technocracy in America』で、世界は統治を重視する政府と民主主義を重視する政府の2つに分かれたと論じました。
それに沿って言えば、確かに、統治に重点を置く政府のほうが国民にサービスを提供することで優れているように見えます。
シンガポールや中国などの政府は懸命に働き、意志決定ができずに行き詰まっているように見えるアメリカやインドよりも国民の役に立っているようです。ですから、もちろん民主主義国は、政府の有用性について心配する必要があると思います。
⚫︎民主主義国家の立て直しは可能
ただ、正直に言えば、中国では感染症の初期に人道的な介入が行われなかったなど、たくさんのひどいことがありました。アメリカと比較する国としては、同じ民主主義国家であるアイスランドのほうが適切でしょう。
アイスランドの政治家たちは即座に「これは科学の問題だ」と言いました。人々を隔離する際に快適な施設を用意し、感染者の家族には負担をかけず、検疫を受けるためのサポートを提供しました。
こうした効果的なガバナンスを実現するのに中国の共産党は必要ありません。民主主義国家でも十分に行えるのです。
中国の対応を賞賛すべきだとは思いませんし、トランプ政権対中国をもってアメリカのすべてを判断すべきではありません。
アメリカの中でもトランプ政権とバイデン政権では昼夜ほどの差があります。トランプ氏はいかに自分に注目してもらうかということに24時間365日集中していましたが、バイデン氏は大統領就任以来、国民に頭を下げてワクチン接種のインフラを迅速に構築し、大規模なコロナ対応の経済対策もまとめました。
大統領が議会に制約されない巨大な権限を持つことは、大統領が誰かによってよいことにも悪いことにもなることを認識すべきです。バイデン政権は民主主義の弱さでなく、政府の能力と成功を示すものだと思います。
――最後にバイデン政権についてですが、彼らは、個人データ利用の規制など、インターネットの広告のビジネスモデルを改善するためによい政策を実施しそうですか。
彼らは、プラットフォーマーに対する独占禁止法の適用においては、よい仕事をすると確信しています。
しかし、それだけで広告のビジネスモデルの問題を解決できるかはまだわかりません。政権内の誰もまだこの問題に対処するための一貫した方針を明確にしていないと思います。
私たちは、ちょうどこの問題を認識したところであり、解決に向けて楽観視はできません。しかし、バイデン政権は重要な第一歩を踏み出すでしょう。