#2177 人工知能（AI）とダイバーシティ

　最近、メディアなどでよく見かけるスプツニ子！（Sputniko!）氏は、現在、東京芸術大学の准教授で東京を拠点に活動するアーティスト。高校を1年飛び級して英国のロンドン大学インペリアル・カレッジに進学し、2006年に卒業（数学とコンピューター・サイエンスの複専攻）。その後ロンドンでプログラミングや作詞作曲などの音楽活動をしたのち、2010年に英国王立芸術学院修士課程を修了…とWikipediaにありました。

　28歳でマサチューセッツ工科大学（MIT）の助教、32歳で東京大学特任准教授、33歳で東京芸術大学デザイン科准教授に就任し、2017年に世界経済フォーラムのヤング・グローバル・リーダーズに選出され、若手オピニオンリーダーの一人として2020年のダボス会議に登壇したことでも知られています。

　印象的なその名前は、世界初の人工衛星となったスプートニクに由来するとのこと。色白で背が高くロシア系のハーフに見られたことから、親友が「あなたの名前は今日からスプートニク」と命名。そこに日本女性に多い「子」を付けて、「スプツニ子！」へと変化させたということです。

　彼女が世に知られるようになった映像作品「生理マシーン、タカシの場合。」は、男性が生理痛を再現する器具を装着するストーリーを描いたもの。スプツニ子！氏の作品にはジェンダーをテーマにした挑発的な内容のものが多く、特に女性たちから強い支持を得ていると聞きます。

　ひとりのアーティストとして、作品において「女性であること」「女性が生きること」の意味を追うスプツニ子！氏。5月2日の日本経済新聞の連載コラム「ダイバーシティ進化論」に、そんな彼女が「AIは万能か？人工知能バイアスを見逃すな」と題する一文を寄せていたので、参考までに小欄にその内容を残しておきたいと思います。

　人工知能（AI）は業務や組織を大きく変えるDXのけん引役とされている。もちろんAIは、私たちの生活を豊かに、便利にするのに欠かせないが、（さりとてそれが）万能ではないことはもっと意識されていいと、氏はこのコラムに綴っています。

　例えば、社員などを採用する際のAIの活用について。米国のネット通販大手がそのシステムを使ったところ、女性に不利なスコアを出すことがわかり利用停止に追い込まれた。男性を多く採用していた過去のデータからAIが「男性を採用した方がいい」と学び、女性に関連する言葉が含まれる履歴書を自動的に減点してしまっていたということです。

　米国の裁判所で使用されるコンパスという再犯予測システムでは、黒人の被告は白人より再犯危険度が高く示される傾向があり、不利だとして大きな社会問題となった。多くの人になじみ深い顔認証システムも、特定の人種や女性に対しては精度が低くなることがわかっていると氏はこのコラムで指摘しています。

　残念ながら、こうした問題はアルゴリズムの世界ではよくある話。AIは過去から現在までのデータを学習して規則性を見いだすので、そのデータはステレオタイプなジェンダー観や人種差別などすでにある社会の偏見を反映している。結果としてAIはこれまでの格差や差別を学び、再生産してしまうのだということです。

　（もちろん）世界で問題意識は高まっている。欧州委員会ではAI倫理ガイドラインを策定し、社会が求める規範に基づいてAIが満たすべき要件をまとめており、日本でも総務省などがガイドラインでAI倫理に触れていると氏は言います。富士通はAIにおいて倫理面での課題がないか評価しやすくする手法を開発し、無償公開を始めた。これは、欧州委員会のAI倫理ガイドラインをもとにした「AI倫理モデル」と照らし合わせ、確認すべき事項を自動的に抽出する仕組みだということです。

　問題が起きないよう（こうして）事前に対処しておくことは重要だが、AIの判断を補正するため、開発段階からダイバーシティを確保する視点も必要だと氏はこのコラムに記しています。

　男女平等な社会を実現するために定めた第5次男女共同参画基本計画では「AIなどの最先端の技術開発やサービス提供で、男女がともに参画し、恩恵を享受できることが重要だ」としている。今後ますます身近になるAIについて、ひとりひとりが日常的に「AIにバイアスはないか」と考え続けることが求められているというのが、こうした問題に対する氏の認識です。

　AIは、あくまで現在の延長線上でものを判断する。弱者や人権に配慮したり、多様性を重視したり、新しい発想を導入したりするには、人間の肌感覚や共感力、未来への想像力などが求められるということでしょうか。

　人間の偏見は、AIにバイアスを与える。社会が背負ってきた負の遺産を取り除くためには、（それを意識して）人間自体が変わっていかなければならないのだろうと改めて感じた次第です。