ＡＩと民主主義④ 人類的視点でリスク整理

ＡＩと民主主義④　人類的視点でリスク整理

経済研究者　友寄英隆さん

国連は、人権を守り発展させる視点から人工知能（ＡＩ）をとらえた取り組みを強めています。ＡＩ格差（ＡＩの開発や利用の格差）をなくして、ＡＩは人類すべての人権を守り向上させるものでなければならないとうったえています。
国連総会（１９３カ国）　は３月２１日、世界のすべての人々にとって持続可能な恩恵をもたらすような「安全、安心で、信頼できるＡＩシステムの推進」に関する決議を採択しました。ＡＩについては初めての総会決議です。

「オン」でも権利
決議は、すべての加盟国と関係機関に対して「国際人権法を順守した形での運用が不可能な、あるいは人権の享受に過度のリスクをもたらすようなＡＩシステムの使用を抑制・中止する」ことを求めました。
「人々がオフライン（インターネットにつながっていない状態）で有する権利は、ＡＩシステムによるオンライン（つながっている状態）でも保護されなければならない」ことも確認。国家間での技術開発の水準に格差があることを踏まえ、デジタル技術を適切に活用するためのデジタル・リテラシーを途上国で向上させられるよう支援することを要請しています。
国連は「いま世界にはさまざまなＡＩについて検討する機関があるが、それらはすべて一握りの大企業や一部の国に集中しており、それがグローバルな不平等を深刻化させ、デジタル格差を亀裂へと変えてしまうおそれがある」（２３年１０月２６日、グテレス事務総長）と懸念しています。
国連は世界各国から選ばれた真に公平で中立的な３９人の専門家で構成される「国連ＡＩハイレベル諮問機関」（日本からは２人参加）を設立し、１２月２１日に最初の検討結果の中間報告書「人類のためのＡＩ統治」を公表しました。中間報告の特徴は、なによりも「人類的視点」に立ち、ＡＩの可能性と危険性の両面を人権の立場から深く検討し、その潜在的リスクを３０項目に整理したことです（表）。
中間報告は次のように指摘しています。
「国連憲章、人権宣言、国際法（環境法や国際人道法を含む）へのコミットメント（国際公約）を含む規範は、ＡＩにも適用されるべきである」、「国連は、世界的な経済、社会、健康、安全保障、文化の状況にＡＩが及ぼす影響を考慮する立場にあり、これらはすべて、人権と法の支配の普遍的な尊重と実施を維持する必要性にもとついている」

ＡＩのリスク（現在および将来）
国連のＡＩ諮問機関の中間報告
（「人類のためのＡＩ統治」２０２３年１２月）

Ⅰ　個人
１	人間の尊厳・価値・主体性（操作、欺隔〈ぎまん〉、誘導、判決）
２	生命、安全、セキュリティー（自律型兵器、自動運転車、化学物質との相互作用、生物学的、放射線学的、核防御）
３	身体的および精神的な完金性、健康と安全（診断、誘導、神経技術）
４	（その他の）人権／市民的自由、例：公正な裁判（再犯予測）、推定無罪（予測的取り締まり）、表現の自由（誘導）、プライバシー（生体認証）
５	人生の機会（教育、仕事、経済的安定）
Ⅱ　グループ
１	性別に基づくものを含むサブグループに対する差別／不公平な取扱い
２	集団の孤立・疎外
３	コミュニティーの機能
４	社会的平等・公平性（性別を含む集団の不公平な扱い）
５	子ども、高齢者、障害者
Ⅲ　社会
１	国際および国家安全保障（自律型兵器／偽情報）
２	民主主義（選挙、信任）
３	情報の完全性（誤った情報または偽情報、ディープフェイク、パーソナライズされたニユース）
４	法の支配（制度、司法の機能と信頼）
５	セキュリティー（軍事・警察）
６	文化の多様性と人間関係の変化（同質化、偽の友達）
７	社会的一体性（フィルターバブル、ニュース、情報に対する信頼の低下）
Ⅳ　エコノミー
１	権力の集中
２	技術依存性
３	経済的機会の不平等
４	資源の配分・割り当て
５	ＡＩの過小利用／過剰利用、技術解決主義
Ⅴ　（エコ）システム
１	金融システムの安定
２	重要インフラへのリスク
３	環境・気候・自然資源への負担
Ⅵ　価値観と規範
１	倫理観
２	道徳的価値観
３	社会的価値観
４	文化的価値観
５	法的規範

（注）番号は、著者が付したもの。筆者仮約

深刻かつ破滅的
昨年１１月には、世界２８カ国が参加した国際会議「ＡＩ安全サミット」が英ブレッチリーで開かれ、従来のＡＩ倫理の枠を超えた、ＡＩによる「深刻かつ破滅的な危害」の防止を視野に入れた「ブレッチリー宣言」を発表しました。同会議の座長を務めたＡＩ研究で名高いカナダ・モントリオール大のヨシュア・ベンジオ教授は「日経」（電子版２３年１２月２６日付）のインタビューで次のように話しています。
「ＡＩをコントロールする人間は大きな力を持つ可能性がある。その力は一義的には経済的な力だろうが、政府と結びつけば政治的・軍事的な支配にもなり得る。ＡＩシステムのコントロールを巡る権力闘争が起こるだろう」（つづく）

「しんぶん赤旗」日刊紙　2024年5月17日付掲載

国連総会（１９３カ国）は３月２１日、世界のすべての人々にとって持続可能な恩恵をもたらすような「安全、安心で、信頼できるＡＩシステムの推進」に関する決議を採択。
「国連憲章、人権宣言、国際法（環境法や国際人道法を含む）へのコミットメント（国際公約）を含む規範は、ＡＩにも適用されるべきである」、「国連は、世界的な経済、社会、健康、安全保障、文化の状況にＡＩが及ぼす影響を考慮する立場にあり、これらはすべて、人権と法の支配の普遍的な尊重と実施を維持する必要性にもとついている」
「ＡＩをコントロールする人間は大きな力を持つ可能性がある。その力は一義的には経済的な力だろうが、政府と結びつけば政治的・軍事的な支配にもなり得る。ＡＩシステムのコントロールを巡る権力闘争が起こるだろう」