https://jp.reuters.com/article/it-ai-insight-idJPKBN2G50NP
焦点：米ＩＴ大手、ＡＩ新技術の活用にブレーキ 倫理的問題に直面
グーグル・クラウドのトレーシー・ピッッゾ・フレイ氏は、「チャンスと有害性がある。われわれの仕事はチャンスを最大化し、有害性を最小化することだ」
グーグルは昨年９月に金融サービス企業から、ＡＩの方が人々の信用審査をうまく行えるのではないかと提案され、ジレンマに直面した。
グーグル・クラウドは、ＡＩベースの信用スコアリング（信用力の数値化）は年間数十億ドル（数千億円）規模の市場になる可能性を秘めていると考え、足場を築きたい気持ちはやまやまだった。
しかしフレイ氏によると、管理職、社会科学者、エンジニアなど約２０人で構成する倫理委員会は１０月の会議で、全員一致でこの案を却下した。
ＡＩシステムは過去のデータやパターンから学ぶ必要があるため、有色人種その他、社会の主流から取り残された人々への差別的慣行を繰り返すリスクがある、と結論付けたのだ。
倫理委員会はさらに、こうした懸念が解消されるまで信用力に関連する金融サービス案件には一切手を付けないとする規約も採択した。
それまでの１年間にも、クレジットカード会社や企業向け金融機関などから持ちかけられた同様の案件３件を却下していた。
もう一つの倫理委員会は今年、人々の写真を「喜び」、「悲しみ」、「怒り」、「驚き」の４つの表情に分類する２０１５年開始のサービスについて審査を始め
「気まずさ」、「満足」など、グーグル・クラウド用に計画されていた１３種類の感情の導入を阻止した。近くこうしたサービス全体を廃止し、「しかめ面」、「笑顔」など、顔の動きだけを表現してその解釈はしない新システムに切り替える可能性がある。
米マイクロソフトは声を模倣するソフトウエアの利用に制限をかけ、米ＩＢＭは顔認識システムの進化版を作って欲しいという顧客の要望を拒否した。
人の声の録音を修復するのに音声模倣技術を用いることのメリットと、政治的な「ディープフェイク」を可能にするリスクを天秤にかける必要があった。
人権活動独立性を保つことは不可能だし、競争圧力により一般への情報公開も制限される。家は社内だけで判断を下すべきではないと訴えている。
「欧州のための市民の自由連合」の責任者、ジャスチャ・ギャラスキー氏は社内のＡＩ倫理委員会について私は非現実的だと思う」と話した。
欧米当局がルールの策定に取りかかろうとしている。
ＩＢＭは脳とコンピューターを結ぶインプラントやウエアラブル機器について、自社のＡＩ倫理委員会が審議を始めたことを明らかにした。
こうしたニューロ技術（脳神経科学を用いた技術）は、障害者が身体の動きをコントロールするのを助ける可能性があるが、ハッカーが思考を操作する可能性も懸念されると、ＩＢＭのクリスティナ・モンゴメリー最高プライバシー責任者は述べた。
マイクロソフトは、短いサンプルから人の声を再現する新ソフト「カスタム・ニューラル・ボイス」について、委員会が倫理面の問題を２年間審査。最終的にゴーサインを出したため、ソフトは２月に全面始動したが、対象者の同意を確認するなど、使用に当たって複数の制限を設けた。同社幹部が明らかにした。
ＩＢＭのＡＩ委員会は新型コロナウイルス感染拡大の初期にジレンマに見舞われた。
高熱のある人やマスク着用の有無を識別するための顔認識技術をカスタマイズして欲しい、という顧客からの要望を審査した際だ。
委員会の共同座長を務めるモンゴメリー氏は、手作業でチェックすれば十分であり、プライバシー侵害も避けやすいとしてこの案を却下した。
この６カ月後、ＩＢＭは顔認識サービスを中止すると発表した。
欧州連合（ＥＵ）と米国の議員らは、プライバシーなどの自由を保護するためにＡＩシステムの広範なコントロールを模索している。
公共スペースでのリアルタイムの顔認識を禁じるとともに、ＩＴ企業に採用や信用スコアリング、法執行などリスクの高い分野で使われるアプリを厳しく精査するよう義務付ける予定だ。
ビル・フォスター米下院議員は、ＡＩに関する新法ができれば企業の公平な競争環境が確保されると説明。
「社会的な目的を達成するために利益が打撃を被るのを我慢してくれと企業に言うと『株主や同業他社はどうなる』と返されるだろう。だからこそ高度な規制が必要なのだ」と述べた。