ＡＩとルール④ 兵器利用禁止交渉に逆流

ＡＩとルール④　兵器利用禁止交渉に逆流

経済研究者　友寄英隆さん（寄稿）

国連のアントニオ・グテレス事務総長は１０月２６日、人工知能（ＡＩ）のリスク、機会、国際ガバナンスに関する新たな諮問機関を国連に設置すると発表しました。この機関は、ＡＩの開発・利用のあり方を国際的に見守り、支援するのが目的です。
グテレス事務総長は、「将来に目を向けると、気候危機とデジタル変革という二つの地殻変動が２１世紀を形作ることになるだろう」（２０年７月１８日、ネルソン・マンデラ記念講演）と述べたことがあります。同事務総長は、以前から「ＡＩには驚くべき可能性と潜在的な危険性がある」と指摘していました。

デジタル格差
国連になぜＡＩの諮問機関を設置するのか。事務総長は会見で次のように述べています。
―現在、ＡＩの専門知識は一握りの企業や一部の国に集中しており、それが「グローバルな不平等を深刻化させ、デジタル格差を亀裂へと変えてしまう」おそれがある。引き起こされるおそれのある損害には、誤情報や偽情報の拡散の加速化、偏見や差別の定着、監視やプライバシーの侵害、詐欺、その他の人権侵害などがあげられる。ＡＩなどのデジタル技術が一部の諸国に独占されることによって、地球的規模で格差と分断がいっそう拡大・固定する―。
ＡＩに関する諮問機関は、世界各国から選ばれた３９人の専門家で構成されています。発表されたメンバーは、ジェンダーのバランスがとれており、地理的にも多様で、年齢的にも多世代にわたっています（日本からは江間有沙東京大学准教授、北野宏明ソニーグループ最高技術責任者の２人が選ばれています）。
国連のＡＩとのかかわりを考えるときに忘れることができないのは、ＡＩの軍事的利用（たとえば無人戦闘機や殺人ロポットなど）を禁止する国際的ルールを作る活動です。
すでに１３年から、国連はＡＩ兵器についての議論を行ってきました。具体的には、国際連合軍縮拡大委員会、専門家会合、政府間パネルなどの枠組みを通じて、ＡＩ兵器の使用に関する議論や交渉がすすめられています。（年表）しかし、この１０年間、ＡＩ兵器を禁止する国際条約作りは、米国、ロシアなど軍事大国の思惑のために、たいへん難航してきました。

国連でのＡＩ兵器交渉

年	月	動き
2013	11	国連軍縮拡大委員会
2015	5	初の専門家会合
2017	11	特定通常兵器使用禁止制限条約（ＣＣＷ）の枠組みで専門家会合
2018	3	国連ＣＣＷ締約国会議
2019	3	ジュネーブ専門家会議
	8	政府間パネル設置
2020		国際人道法への適用
2021	11	ＣＣＷでの議論の本格化
2023	2	米国が「ＡＩと自律化技術の責任ある軍事利用に関する政治宣君」を提案
	7	国連安保理でＡＩを初の議題に（ＡＩ兵器も議論）

米国の新提案
２３年に入って、米国政府は、ＡＩ兵器の国際交渉のなかで、まったく新たな提案を行いました。米国務省が２３年２月１６日に発表した「ＡＩと自律化技術の責任ある軍事利用に関する政治宣言」と呼ばれる文書に、西側諸国の同意を取り付けはじめたのです。
この米国提案の「政治宣言」では▽軍事ＡＩは国際法に従って開発すること▽各国のＡＩ兵器の技術の原理について透明性を確保すること▽ＡＩシステムの性能を検証する高い基準を設定すること―などが盛り込まれています。つまり、ＡＩ兵器を禁止するのでなく、「責任ある軍事利用」をはかるというものです。国連のこれまでの国際交渉にとっては、まったくの「逆流」と言うべき「宣言」です。この米国提案の「宣言」には、２３年１１月時点で、日本を含め「西側」の４６カ国・地域が賛同（外務省資料）しています。
こうしたＡＩ兵器をめぐる複雑な情勢のもとで、２３年７月に国連安全保障理事会は、ＡＩに関する初の会合を開きました。
ＡＩ兵器をめぐる国際環境は、新たな重要局面を迎えています。（おわり）

「しんぶん赤旗」日刊紙　2023年12月22日付掲載

ＡＩに関する諮問機関は、世界各国から選ばれた３９人の専門家で構成。発表されたメンバーは、ジェンダーのバランスがとれており、地理的にも多様で、年齢的にも多世代に。
２３年に入って、米国政府は、ＡＩ兵器の国際交渉のなかで、まったく新たな提案。ＡＩ兵器を禁止するのでなく、「責任ある軍事利用」をはかるというもの。ＡＩ兵器をめぐる国際環境は、新たな重要局面を。

ＡＩとルール③ ＥＵの包括的規制法案

ＡＩとルール③　ＥＵの包括的規制法案

経済研究者　友寄英隆さん（寄稿）

１２月８日、欧州連合（ＥＵ）は、人工知能（ＡＩ）の包括的規制法案を大筋で合意したと発表しました。それによると、同法案は、加盟国とヨーロッパ議会による正式な承認を経て成立し、２０２６年までに施行される見通しです。
ＥＵは、すでに２１年４月にＡＩ規制の制度化を目指すＡＩ規制案（ＡＩＡｃｔ）を発表していました。その後、生成ＡＩなどの急速な進展を前にして、同法案（原案）に大幅な改善を加えながら、ＥＵ加盟２７力国間の調整を精力的におこなって、ようやく最終合意にこぎつけたということです。
合意したＡＩ規制法案の詳細な内容はまだ明らかにされていませんが、生成ＡＩが作成した画像や文章などには、ＡＩによるものだと明示するなど透明性を義務づけるとされています。

世界初の機関
同法案では、ＡＩのリスクを４段階にランク付けし、最高ランクの「許容できないリスク」に違反したときには、最大で３５００万ユーロ（日本円で約５４億円）か、あるいは年間の売上高の７％か、どちらか高いほうを制裁金として科すとしています。
こうした規制を実効あるものとするために、ＡＩについて監視する機構を各国に設置するとともに、ＥＵレベルでも拘束力のある執行機関（ＡＩオフィス）を新設します。
それが実現すると、世界初のＡＩ監視機関となるでしょう。
しかし、業務と関係ない個人のＡＩ利用や研究目的、開発段階のＡＩについては、規制対象外となります。また安全保障や軍事目的のＡＩ利用にも適用されません。

ＥＵのＡＩ規制法の「４ランクのリスク」
ＯＡＩ規則案では、リスクベースアプローチを採用し、四つのリスクレベルを設け、おのおののリスクに応じた要件・規制を設定。

容認できないリスク （Unacceptable Risk）	サブリミナル技術、ソーシャルスコアリング、公共空間における法執行目的でのリアルタイム遠隔生体認証システム等原則禁止
ハイリスク （High Risk）	機械、医療機器、重要インフラ、教育、雇用、法執行等 プロバイダー、輸入者、販売業者、利用者それぞれに対して、リスク管理、データガバナンス、技術文書の作成、人的監視措置、適合性評価手続き、ログ保存など厳格な規制
限定的なリスク （Limited Risk）	自然人とやりとりするＡＩ、感情認識システム等 ＡＩ使用の告知など限定的な義務
最小限のリスク （Minimal Risk）	上記以外 自由に利用可能（自主的な行動規範の推奨あり）

欧州連合日本政府代表部「ＥＵＡＩ規制法案の最新動向」（2023年9月）から作成。図は今回の最終案によるものではないが、基本的な４ランクの構成は変化ないと思われる

国際基準にも
ＥＵの包括的なＡＩ法が施行されると、ＥＵ域内にＡＩシステムを提供する域外企業も適用対象となります。国境のないデジタル経済のもとでは、ＡＩ規制のＥＵ法がデファクト（事実上）の国際基準になっていく可能性もあります。
ＡＩ規制の方法ではＥＵと対立する米国のメディアの報道をみると、今回のＥＵ法案の歴史的意義を認めつつも、必ずしも手放しの評価ではありません。たとえば米国のニューヨーク・タイムズ（１２月９日付）では、「突破口として歓迎されるが、その効果については疑問が残る」と解説しています。また有力な経済紙ウォール・ストリート・ジャーナル（１２月９日付）も、「ＥＵの産業界からは強い批判がある」、「２０２６年以前に完全に発効することはないだろう」などと報じています。
米国のバイデン大統領は１０月３０日、最新のＡＩ技術に関する包括的な大統領令に署名しました。安全保障や国民に深刻なリスクとなりうるＡＩ技術を開発する企業にたいし、開発時点で政府に通知し、安全性テストの結果を提示するよう義務づけました。
ＥＵがＡＩ包括規制法案に合意したことは、Ｇ７で進められている「広島プロセス」（共通のＡＩルール作り）には、どのような影響を与えるでしょうか。
いずれにせよ、ＡＩのルール作りは、歴史的に新しい段階に入ったと言ってもよいでしょう。
（つづく）

「しんぶん赤旗」日刊紙　2023年12月21日付掲載

ＡＩ規制法案では、ＡＩのリスクを４段階にランク付けし、最高ランクの「許容できないリスク」に違反したときには、最大で３５００万ユーロ（日本円で約５４億円）か、あるいは年間の売上高の７％か、どちらか高いほうを制裁金として科すと。
こうした規制を実効あるものとするために、ＡＩについて監視する機構を各国に設置するとともに、ＥＵレベルでも拘束力のある執行機関（ＡＩオフィス）を新設。
米国のバイデン大統領は１０月３０日、最新のＡＩ技術に関する包括的な大統領令に署名。安全保障や国民に深刻なリスクとなりうるＡＩ技術を開発する企業にたいし、開発時点で政府に通知し、安全性テストの結果を提示するよう義務づけ。

ＡＩとルール② 「風呂敷」作ったＧ７

ＡＩとルール②　「風呂敷」作ったＧ７

経済研究者　友寄英隆さん（寄稿）

１２月１日に、日本が議長国を務める主要７力国（Ｇ７）が「デジタル・技術閣僚声明」を発表しました。この声明は、今年５月に広島で開かれたＧ７サミットのさいに設立された、人工知能（ＡＩ）のルール作りを継続的に議論する作業（「広島プロセス」）の成果を取りまとめたものです。
Ｇ７合意の内容は、声明本体のほか、さまざまな付属文書からなっています。（表）
これらのうちで最も注目されるのは、「全てのＡＩ関係者向けの国際指針」です。このなかには▽「偽情報の拡散」への対応▽「個人データ及び知的財産」の保護▽「電子透かし」などによる「透明性の確保」▽ＡＩがはらむリスク▽脆弱（ぜいじゃく）性検知への協力▽ＡＩリテラシーの向上▽情報の共有―などが盛り込まれています。
しかし、こうしたＡーリスクにたいしてどう対応するかという具体的な方策で合意したわけではありません。比喩的に言えば、目指すべきＡＩルールを包み込む大きな風呂敷は作ったが、その中に入れるべき具体的な方策そのものはこれからだということです。

「広島ＡＩプロセス」の成果文書

Ｇ７デジタル・技術閣僚声明

（まえがき） Ⅰ．広島ＡＩプロセス包括的政策枠組み Ⅱ．広島ＡＩプロセスを前進させるための作業計画

（別添）広島ＡＩプロセス包括的政策枠組み

（まえがき） Ⅰ．生成ＡＩに関するＧ７の共通理解に向けたＯＥＣＤリポート Ⅱ．全てのＡＩ関係者向けおよび高度なＡＩシステムを開発する組織向けの広島プロセス国際指針 Ⅲ．高度なＡＩシステムを開発する組織向けの広島プロセス国際行動規範 Ⅳ．プロジェクト・ベースの協力

（付属書１）全てのＡＩ関係者向けの広島プロセス国際指針

信頼性のあるデータ流通（ＤＦＦＴ）の具体化に関するＧ７デジタル・技術閣僚声明

（付属書）ＤＦＦＴ具体化のための国際枠組み（ＩＡＰ）の設立およびＧ７の期待に関するコンセプトペーパー

異なるルール
声明の第３項には、次のような文言があります。
「信頼できるＡＩという共通のビジョンと目標を達成するためのアプローチと政策手段は、Ｇ７メンバー間で異なる場合があることを認識している（太字は引用者）」
つまり、「信頼できるＡＩ」の共通のビジョンと目標は国際的に定めたが、それを実現する具体的な政策手段は各国で異なってもよいということです。これは、現実に欧州連合（ＥＵ）、米国、日本などのＧ７諸国の間で進められているＡＩのルール作りの大きな相違を追認したものと言えるでしょう。
しかし、米国のオープンＡＩ社のチャットＧＰＴが公開されてわずか１年の間に世界中を席巻したように、ＡＩなどのデジタル技術には国境はありません。はたして、各国バラバラなルールでリスクを規制できるものなのかどうか、たいへん疑問です。

前進始まった
とはいえ、ＡＩの開発と利用についてのルール作りの「国際的指針」をきめたこと自体は、一定の前進だと言えるでしょう。
ＡＩの国際的なルール作りは、ようやく始まったばかりです。
１９世紀の産業革命で急速に機械工業が発展し、産業や社会の各分野で機械が普及していったときには、労働条件を守るための工場法が制定されました。イギリスの場合は、１８０２年に最初の工場法が成立してから、その法的不備が明らかになるたびに、何度も改正が繰り返されて、１８７８年の包括的な工場法が制定されるまで実に７６年もかかりました。この期間に、労働者・国民の粘り強いたたかいが継続的におこなわれました。
ＡＩのルール作りについても、これから長期にわたる課題として、腰を据えてしっかりと監視していくことが求められています。
（つづく）

「しんぶん赤旗」日刊紙　2023年12月20日付掲載

最も注目されるのは、「全てのＡＩ関係者向けの国際指針」です。このなかには▽「偽情報の拡散」への対応▽「個人データ及び知的財産」の保護▽「電子透かし」などによる「透明性の確保」▽ＡＩがはらむリスク▽脆弱（ぜいじゃく）性検知への協力▽ＡＩリテラシーの向上▽情報の共有―などが盛り込まれていること。
１９世紀の工場法づくりは７６年もかかった。ＡＩのルール作りについても、これから長期にわたる課題として、腰を据えてしっかりと監視していくことが求められています。

ＡＩとルール① アルトマン氏“騒動”

ＡＩとルール①　アルトマン氏“騒動”

人工知能（ＡＩ）の国際的なルール作りが始まりました。これをどうみるか、経済研究者の友寄英隆さんに寄稿してもらいました。
経済研究者友寄英隆さん（寄稿）

２０２３年の夏から冬へかけて注目すべき四つの動きがありました。一つは米国のＡＩ開発企業の最高経営責任者（ＣＥＯ）の解任騒動。二つは主要７力国（Ｇ７）のＡＩ規制の合意声明。三つは欧州連合（ＥＵ）のＡＩ包括規制法案。四つは国連のＡＩ兵器禁止交渉の逆流です。これらは今後のＡＩをめぐる開発と規制のルール作りの方向を展望するうえで、たいへん重要な動きでした。その意味を考えてみましょう。


オープンＡＩ社のロゴマーク（ロイター）

解任すぐ復帰
チャットＧＰＴを開発した米国のオープンＡＩ社の共同創業者として知られるアルトマン氏の同社ＣＥＯ解任のニュースは、「青天の霹靂（へきれき）」でした。しかも、その解任発表の４日後に、アルトマン氏がＣＥＯに復帰するというニュースが続き、二度びっくりしました。
アルトマン氏は、１年前にチャットＧＰＴを公開して以来、世界中で生成Ａーブームを巻き起こしたオープンＡＩ社のＣＥＯとして世界各国を駆け巡ってきました。日本にも４月に来訪して岸田首相と会談しています。ＮＨＫの単独インタビューでは「日本のすぐれたエンジニアや研究者と協力し、日本を主要な市場の一つにしたい」と語りました。
今回のアルトマン氏の解任騒動について日本経済新聞は「オープンＡＩ騒動の真相示せ」という社説（３日付）までかかげました。その中では「開発を加速した同氏と安全性を重視してブレーキを踏むことを求めた一部の理事が対立したとの見方が浮上している」と指摘しています。
オープンＡＩ社の内部抗争の詳細は分かりませんが、最先端のＡＩ技術の開発企業の内部にもＡＩ技術のリスクを懸念する経営者がいることは確かなようです。
世界的に著名な経営学修士（ＭＢＡ）で知られる米国ハーバード大学の経営大学院のもとで編集される『ハーバード・ビジネス・レビュー（ＨＢＲ）』をみると、生成ＡＩに関する論文が毎号のように掲載されています。それらの論文をもとにした同誌の日本語版（ダイヤモンド社）は、今年１１月号で「ＡＩリスクにどう対処するか」という大型特集を掲載しています。そのなかで、ＡＩの開発技術者が潜在的に陥りがちな三つのリスクを指摘しています。
第一に、「スピード重視という業界の文化があること」。第二に、「技術者が自社製品を取り巻く環境を大局的に見られないこと」。第三に、「安全確保のためのガードレールが必要という常識が後回しになりがちなこと」。

経営者の倫理
ＡＩの技術者が陥りやすいリスクを管理し、開発竸争の暴走にブレーキをかけるのは企業経営者の責任です。先のＨＢＲ誌の論文のなかで、リード・ブラックマン（デジタルリスク倫理コンサルタントＣＥＯ）は、次のように強調しています。
「ビジネスリーダーは『倫理』を語ることを恐れてはならない」「企業は全社的なデジタル倫理リスクプログラムを策定する必要がある」
しかし、技術者が陥りがちなリスクを避けるには、企業経営者の倫理に頼るだけでは不十分です。ＡＩの開発・利用にともなうリスクを規制する国家的なルールが必要です。
（つづく）（４回連載です）

「しんぶん赤旗」日刊紙　2023年12月19日付掲載

２０２３年の夏から冬へかけて注目すべき四つの動き。一つは米国のＡＩ開発企業の最高経営責任者（ＣＥＯ）の解任騒動。二つは主要７力国（Ｇ７）のＡＩ規制の合意声明。三つは欧州連合（ＥＵ）のＡＩ包括規制法案。四つは国連のＡＩ兵器禁止交渉の逆流。これらは今後のＡＩをめぐる開発と規制のルール作りの方向を展望するうえで、たいへん重要な動き。
ＡＩの開発技術者が潜在的に陥りがちな三つのリスクを指摘しています。
第一に、「スピード重視という業界の文化があること」。第二に、「技術者が自社製品を取り巻く環境を大局的に見られないこと」。第三に、「安全確保のためのガードレールが必要という常識が後回しになりがちなこと」。

締約国会議機に 政治家を決意 仏領ポリネシアのモルガンクロス議員 「核禁止条約で補償・廃絶必ず」

締約国会議機に　政治家を決意　仏領ポリネシアのモルガンクロス議員　「核禁止条約で補償・廃絶必ず」
南太平洋の仏領ポリネシアのヒナモエウラ・モルガンクロス議員（３５）は、昨年開かれた核兵器禁止条約第１回締約国会議に参加して議員になろうと決意し、今年５月の選挙で初当選しました。核実験被害者への補償を充実させ、核廃絶を実現しようと１１月末に米ニューヨークの国連本部で開かれた第２回会議にも参加しました。
（ニューヨーク＝島田峰隆写真も）


【仏領ポリネシア】
南太平洋南東部に散在する約１２０の島と環礁から成るフランス特別自治体。面積４１６７平万キロ、人口約３０万６０００人。政庁所在地はタヒチ島パペーテ。１８４２年にタヒチ島がフランス保護領となった後、他の島も併合１９４６年からフランスの海外領土。２００４年に特別自治体になりました。任期５年の議会が行政長官を選出します。

「議員になって初めての仕事が核兵器禁止条約の支持決議になりました」とガッツポーズするモルガンクロス氏。「政治で変化を起こせる手応えを感じています」と笑顔で語りました。
議会（５７議席）が今年９月に可決した決議は禁止条約を支持し、マクロン仏大統領に条約への加入や締約国会議へのオブザーバー参加を要求。仏領ポリネシアは核実験の被害者だと強調し、被害者救済や環境修復を定めた禁止条約の順守を求めました。


第２回締約国会議に参加したナモエウラ・モルガンクロス議員＝11月30日、ニューヨーク

１９３回の核実験　死の灰で汚染
フランスは１９６６～９６年、仏領ポリネシアのムルロア環礁などで１９３回の核実験を実施しました。生活用水に雨水を使っていた住民は、放射性降下物（死の灰）で汚染された水を飲み、赤ちゃんは汚染された水でつくったミルクを飲みました。生活の糧の魚も汚染されました。
住民の間には、がんや白血病、出生異常などが多発しています。モルガンクロス氏自身も１０年前に白血病と診断されました。曽祖母は甲状腺がん、祖母と母は乳がんや甲状腺がんを患いました。
「フランスはポリネシアの住民を実験材料に使い、核兵器大国になりました。住民には“きれいな爆弾だ”とうそをつきました。私たちは補償を受けて当然です」
核実験と健康被害の関係に関心を持って調べ始めたのは２０１８年秋のこと。仏領ポリネシアのオスカー・テマル元行政長官が、核実験は人道に対する犯罪だとフランスを国際刑事裁判所に提訴したことがきっかけでした。
「１９３回もの核実験があったと初めて知り、衝撃を受けました」。調べるうちに自身や家族の病気の原因が核実験にあると確信しました。国際ＮＧＯ「核兵器廃絶国際キャンペーン（ＩＣＡＮ）」とつながり、生まれ育ったタヒチ島で補償や核廃絶を求める行動に参加しました。

被害の実態を住民に知らせ
大きな転機が、昨年６月にウィーンで開かれた禁止条約第１回締約国会議への参加でした。日本の被爆者、カザフスタンやマーシャル諸島でたたかう核実験被害者と交流し、「政治を変えなければ」と決意。議員となりました。
いま最も力を入れたい課題は、フランス政府が２０１０年に施行した核実験被害者救済補償法の拡充と、核実験被害の実態を住民に知らせる運動です。
モルガンクロス氏は「核実験は隠ぺいされ、被害を自覚できていない住民も多い。植民地支配の傷痕です」と指摘。「核兵器禁止条約は被害者に心を寄せた人間味のある条約です。この条約なら被害者補償と核兵器廃絶を必ず実現できると思います」

「しんぶん赤旗」日刊紙　2023年12月18日付掲載

ポリネシア議会（５７議席）が今年９月に可決した決議は禁止条約を支持し、マクロン仏大統領に条約への加入や締約国会議へのオブザーバー参加を要求。仏領ポリネシアは核実験の被害者だと強調し、被害者救済や環境修復を定めた禁止条約の順守を求めました。
フランスは１９６６～９６年、仏領ポリネシアのムルロア環礁などで１９３回の核実験を実施。生活用水に雨水を使っていた住民は、放射性降下物（死の灰）で汚染された水を飲み、赤ちゃんは汚染された水でつくったミルクを飲みました。生活の糧の魚も汚染。
いま最も力を入れたい課題は、フランス政府が２０１０年に施行した核実験被害者救済補償法の拡充と、核実験被害の実態を住民に知らせる運動。