ＡＩ規制 ＥＵ案の光と影③ 違反に制裁金４０億円

ＡＩ規制　ＥＵ案の光と影③　違反に制裁金４０億円
情報産業研究者　高野嘉史さんに聞く

欧州連合（ＥＵ）欧州委員会の人工知能（ＡＩ）規制案では一応、「高リスク」のＡＩシステムを公共機関・企業などが導入するに当たっては、ＡＩの使用前、使用後に以下のような事項が義務づけられます。
①本規制への適合性の確保②ＡＩシステムのリスクを管理するためのシステムの整備③ＡＩシステムを習熟させるために使用されるデータセット（標本の集合）の一定の品質の確保④技術的な仕様書の事前整備⑤ＡＩシステムの自動的な運用記録（ログ）⑥利用者に対する透明性の確保と情報の提供⑦ＡＩシステム使用中の人手による監視⑧正確性、堅牢（けんろう）性、サイバーセキュリティーの確保―です。


ＡＩを使って学生の内定辞退率を推定し販売していたリクルートキャリア社のウェブページ

透明性が重要
この中では、特に透明性の確保と情報の提供が重要です。日本で利用されているＡＩシステムの中には、ＡＩシステムを利用していること自体が明らかにされていないものがあるからです。また、ＡＩシステムを利用していると明示されていても、どのような要素を用いて、どのように分析し、どのような判断が下されているのかが、対象者に明示されないことが多いからです。
ただ単に「ＡＩを利用して分析した結果です」といわれても、にわかには納得できないと感じる人が多いのではないでしょうか。
ＥＵの規制案ではまた、「高リスク」ＡＩシステムの利用に当たって一般国民が認識できるようデータベースへの登録が求められ、登録簿は一般に公開されます。
３番目の「限定的なリスク」には、深刻な危険のないＡＩシステムが分類されます。ＡＩ技術を用いたチャットボット（文字や音声を通じて会話を自動的に行うプログラム）などが含まれます。これに対しては特別の規制はありませんが、行動規範の採用が奨励されます。また、企業などが消費者からの問い合わせへの回答などにＡＩを使っている場合、人間ではなくＡＩが対応していることの明示が求められます。
４番目に、テレビゲームや迷惑メール防止機能など「最小限リスク」とみなす他の分野への利用には介入しない方針です。

規制機関設け
以上に述べた規制の実効性を確保するため、規則違反に対しては次のように制裁金が科されます。①禁止ＡＩの使用＝３千万ユーロ（約４０億円）または年間全世界売上高の６％のいずれか高額の方②規制の義務違反＝２千万ユーロまたは年間全世界売上高の４％のいずれか高額の方③虚偽の情報提供＝１千万ユーロまたは年間全世界売上高の２％のいずれか高額の方④ＥＵ機関による違反＝違反の種類に応じて最大５０ユーロまたは２５万ユーロ―です。一応、中小企業への適用に当たっては、過重な負担とならないよう配慮するとしています。
こうした詳細な規制を執行するために、ＥＵレベルでは「欧州人工知能委員会」が設置され、加盟各国にも規制担当機関を設けることが求められます。
（つづく）

「しんぶん赤旗」日刊紙　2021年5月14日付掲載

透明性の確保と情報の提供が重要です。ＡＩシステムを利用していると明示されていても、どのような要素を用いて、どのように分析し、どのような判断が下されているのかが、対象者に明示されないことが多いからです。
ただ単に「ＡＩを利用して分析した結果です」といわれても、にわかには納得できないと感じる人が多いのではないでしょうか。