ＡＩ規制 ＥＵ案の光と影② 救急車派遣順位にも

ＡＩ規制　ＥＵ案の光と影②　救急車派遣順位にも
情報産業研究者　高野嘉史さんに聞く

欧州連合（ＥＵ）欧州委員会が発表した人工知能（ＡＩ）規制案の構造をみてみましょう。（表）

規制案ではＡＩシステムを「機械学習、論理ベース・知識ベース、統計評価などの技術と手法を用いて開発されたソフトウェアであって、人間が定義した目的を達成するために、ＡＩが相互に作用する環境に対して影響を与えるようなコンテンツ（情報の内容）、予測、提案及び決定を生成する」機能を持つものと定義しています。

ＥＵのＡＩ規制案の構造

規制の類型	利用例	規制内容
１．禁止	・認知されない形でのサブリミナル技術の活用 ・年齢、身体的、精神的障害の面での脆弱性の 利用 ・行動や人格的特性に基づき、政府が個人の信 頼性などを格付けるスコアリング ・法執行を目的とする公共空間での生体認証 （顔認証）など	利用を禁止、ただし、法執行目的の場合には、裁判所の令状などがあれば使用可
２．高リスク	・運輸など重要インフラ ・ロボットを使った手術支援 ・企業の採用活動 ・大部分の顔認証	第三者機関によって規制への適合性を事前に審査
３．限定的なリスク	企業が消費者との対話に使うシステムなど	ＡＩを使用していることの情報開示
４．最小限のリスク	１～３以外	既存の法令を満たしていれば、追加の対応は不要

４類型に分類
これは一般的な理解に合致するものであるといってよいでしょう。そのうえで規制案はＡーシステムをリスクの大きさに応じて４類型に分類しています。①受け入れられないリスク②高リスク③限定的なリスク④最小限リスク―です。
１番目に「受け入れられないリスク」として以下の四つのＡＩシステムの利用を禁止しています。
①人々に認知されない形でサブリミナル（潜在意識に働きかける）技術を用いて身体的・精神的な危害を与える可能性のあるもの②年齢や身体的・精神的障害の面での脆弱（ぜいじゃく）性を利用することによって身体的・精神的な危害を与えるか、その可能性のあるもの③公的な機関が社会的な行動や人格的な特性を分析することによって個人の「信頼性」を評価・分類（スコアリング）するもの④公的にアクセス可能な場所で法執行のために常時、遠隔型の生体認証システムを利用するもの―です。
ただしこれには、裁判所の令状、または独立の行政当局の事前承認を得た場合に限って、次のような例外が認められていることに留意する必要があります。▽行方不明の子どもなど犯罪被害に遭う可能性のある特定の個人に絞った捜索▽特定かつ実質的な緊急の人命に対する脅威、またはテロリストによる攻撃への対処▽犯罪者、犯罪容疑者の発見、現在地の把握、同定、または起訴―です。


Ａｌが算出したスコアに基づいて金利などの参考値を示す、株式会社ジエイスコアの個人向け融資サービスのウェブページ

事前に規制も
２番目に、幅広いＡＩシステムの利用が「高リスク」と分類され、その利用には事前、事後の規制が課せられます。
①自然人の生体認証による監視とカテゴリー化（分類）②道路交通、水道・ガス、暖房、電気などの重要なインフラストラクチャー（社会的な基盤となる設備）の監視・運用③教育・職業訓練の参加者の決定、入学・入所試験での評価④採用に当たっての選考や昇進、雇用契約の終了、職務の割り当て、業績・行動の評価などの労働者管理⑤行政機関における公的扶助・サービスの申し込みや見直しの評価⑥自然人の信用評価と信用スコア（点数）の作成⑦消防車・救急車の派遣と優先順位の決定⑧法執行機関による犯罪・再犯のリスク評価、犯罪被害のリスク評価、ポリグラフ（生体現象監視装置）による感情状態の把握、犯罪行為の発見・操作・訴追のためのプロファイリング（人物像の推定）⑨移民・難民・国境管理のためのポリグラフによる感情状態の把握、セキュリティーリスク・違法移民・保健リスクなどの把握、旅券・ビザの有効性のチェックなど⑩司法や民主的プロセスの運営―です。
これら「高リスク」ＡＩシステムの一覧を見ると、このような分野にまでＡＩが導入されているのかと、がくぜんとさせられます。
（つづく）

「しんぶん赤旗」日刊紙　2021年5月13日付掲載

ＡＩを使って、潜在意識に働きかける技術を用いて身体的・精神的な危害を与える可能性、社会的な行動や人格的な特性を分析することによって個人の「信頼性」を評価・分類（スコアリング）などは禁止。
消防車・救急車の派遣と優先順位の決定などは、利用には事前、事後の規制があるものの認められているとは。