ラテンアメリカとカリブ海の諸国が自律型兵器システム反対で集う
地域的な団結が将来の条約交渉に不可欠
2023年3月6日 ジャスト・セキュリティ掲載
HRW武器局局長 メアリー・ウェアハム HRW武器局上級調査員 ボニー・ドチャティ
The push to prohibit and regulate autonomous weapons systems made significant progress last month when nearly every country in Latin America and the Caribbean endorsed a new communiqué calling for the “urgent negotiation” of a binding international treaty. In recent years, various groups of countries have promoted this objective, including the Non-Aligned Movement (NAM), which comprises of 125 States. But the Belén Communiqué is the first to be adopted by a regional meeting on the topic, and it comes at a critical time.
先月、ラテンアメリカとカリブ海のほぼ全ての国が、拘束力のある国際条約の「緊急交渉」を求める新しいコミュニケに賛同し、自律型兵器システムの禁止と規制を求める動きが大きく前進した。近年、125ヶ国からなる非同盟運動（NAM）を始め、様々な国のグループがこの目的を推進してきた。しかし、今回のベレン・コミュニケは、このテーマに関する地域会合で初めて採択されたものであり、重要な時期での採択となった。
An increasing number of countries, including Australia, China, India, Iran, Israel, South Korea, Russia, Turkey, the United Kingdom, and the United States, are investing heavily in the military applications of artificial intelligence (AI) and related technologies to develop air, land, and sea-based autonomous weapons systems. Weapons systems with autonomous functions are already being used in Ukraine and other conflicts.
オーストラリア、中国、インド、イラン、イスラエル、韓国、ロシア、トルコ、英国、米国など、ますます多くの国が、空・陸・海の自律型兵器システムを開発するべく、人工知能（AI）と関連技術の軍事応用に多額の投資を行いつつある。自律機能を有す兵器システムは、すでにウクライナなどの紛争で使用されている。
The plethora of ethical, legal, moral, operational, proliferation, and security risks raised by autonomous weapons systems have been thoroughly explored over the past decade. Yet at diplomatic talks held since 2014, a handful of countries, especially India, Russia, and the United States, have consistently resisted growing calls to negotiate a new legally binding instrument on autonomous weapons systems. International humanitarian law and human rights law badly need an update as they were written for humans and not machines.
自律型兵器システムがもたらした倫理的・道徳的・運用上・拡散する・安全保障上などの数々の危険は過去10年間で徹底的に検討されて来た。しかし、2014年以降開催された外交協議では、一握りの国、特にインド、ロシア、米国が、自律型兵器システムに関する新しい法的拘束力のある法律文書の交渉を求める声に一貫して抵抗してきた。国際人道法と人権法は、機械ではなく人間のために書かれたものであるため、それらの更新が大いに必要とされる。
An Expression of Regional Solidarity 周辺地域の結束を表明
Latin American and Caribbean Conference ラテンアメリカ＆カリブ海諸国会議
The Belén Communiqué is the main outcome document of a regional conference on autonomous weapons that the government of Costa Rica and local non-governmental organization FUNPADEM held in San José between Feb. 23-24. The first regional inter-governmental meeting on this topic explored the social and humanitarian impacts of autonomous weapons systems, which would select and engage targets based on sensor processing rather than human inputs.
ベレン・コミュニケは、コスタリカ政府と地元NGOのFUNPADEMが2月23日から24日にかけてサンホセで開催した自律型兵器に関する地域会議の主要成果文書である。このテーマに関する最初の地域政府間会合は、人間の入力ではなくセンサーの処理に基づいて標的を選択し、交戦する自律型兵器システムの社会的・人道的影響について検討したものだ。
Government representatives from nearly every country in Latin America and the Caribbean attended the conference as did officials from 13 observer countries: Austria, Belgium, France, Germany, Ireland, Japan, New Zealand, the Netherlands, Nigeria, the Philippines, Russia, Switzerland, and the United States. The United Nations disarmament chief, Izumi Nakamitsu, and International Committee of the Red Cross (ICRC) president Mirjana Spoljaric Egger addressed the conference and reiterated their respective institutions’ firm desire for a legally binding treaty to address autonomous weapons systems.
ラテンアメリカ・カリブ海地域のほぼ全ての国からの政府代表と、オーストリア、ベルギー、フランス、ドイツ、アイルランド、日本、ニュージーランド、オランダ、ナイジェリア、フィリピン、ロシア、スイス、米国というオブザーバー13ヶ国からも担当官僚が、会議に出席した。国連の中満泉軍縮部長と赤十字国際委員会（ICRC）のミリヤナ・スポルアリッチ・エッゲー会長は会議で演説し、自律型兵器システムに対応する法的拘束力のある条約をそれぞれの機関が強く望むことを改めて表明した。
The Stop Killer Robots campaign, co-founded by Human Rights Watch and now consisting of more than 200 non-governmental organizations in 70 countries, had a strong presence at the Costa Rica conference. In a presentation to the conference, Human Rights Watch’s Bonnie Docherty highlighted the negative social and humanitarian consequences of permitting machines to take human life on the battlefield or in policing, border control, and other circumstances. Docherty called on States to open negotiations on a new international treaty to prohibit and restrict autonomous weapons systems and cited a recent report from Human Rights Watch and Harvard Law School’s International Human Rights Clinic about forums for doing so.
HRWが共同設立団体であり、現在70ヶ国の200を超えるNGOからなる「ストップ・キラーロボット」キャンペーンは、コスタリカ会議で力強い存在感を示した。同会議へのプレゼンでHRWのボニー・ドチャティが強調したのは、戦場や警察活動、国境警備などの状況下で、人の命を奪う行為を機械に任せることの社会的そして人道上のネガティブな影響についてであった。ドチャティはまた各国に、自律型兵器システムを禁止し制約する新たな国際条約に関して交渉を開始するよう求めると共に、そのための場についてHRWとハーバード大学法科大学院国際人権クリニックの共著による最近の報告書に言及した。
Communiqué’s Call for a New Treaty コミュニケの新条約に向けた呼びかけ
The Belén Communiqué, which over 30 States adopted, highlights the dangers of autonomous weapons systems. It recognizes that “emerging technologies pose concrete challenges to international peace and security, and raise new questions about the role of humans in warfare.” It finds that “it is paramount to maintain meaningful human control to prevent further dehumanization of warfare, as well as to ensure individual accountability and state responsibility.”
30ヶ国以上が承認したベレン・コミュニケは、自律型兵器システムの危険性を強調し、「新たな出現する技術は、国際平和と安全保障に具体的な課題をもたらし、戦争行為における人間の役割について新たな問題を提起している。」旨認識し、「戦争行為の更なる非人間化を防ぐため、また、個人の説明責任と国家の責任を確保するために、意味のある人間の制御を維持することが最も重要である。」と指摘している。
The communiqué further calls for an ethical and legal solution. It recognizes the relevance of a breadth of legal sources including international humanitarian law, international human rights law, and the United Nations Charter, and invokes the Martens Clause, a provision of international humanitarian law that appeals to the principles of humanity and dictates of public conscience. At the same time, it acknowledges the limits of existing law, stating in its preamble that “the international community is called to respond to these threats by developing and strengthening the international legal framework” (emphasis added).
コミュニケは更に、倫理的かつ法的な解決を呼びかけ、国際人道法、国際人権法、国連憲章を含む幅広い法源の関連性を認識し、人道の原則と公共の良心の命ずるところを訴える国際人道法の規定、マルテンス条項を援用している。同時に、前文で「国際社会は、国際的な法的枠組みを発展させ強化することによって、これらの脅威に対応するよう求められている」強調し、既存法に限界があることを認めている。
＊マルテンス条項は 1899 年のハーグ会議で提案され、国際人道法においても引用されている国際慣習法の一つ。諸条約による明文規定がない事項に関しても、慣習法や国際人道法の諸原則および公共の良心の要求に従わなければならないことを明記している
Finally, the communiqué echoes the broad support that has been voiced for a legally binding instrument with prohibitions and regulations to address the host of grave concerns raised by removing human control from the use of force. The Stop Killer Robots campaign, the ICRC, and many States have said that such an international treaty should prohibit autonomous weapons systems that inherently lack meaningful human control and systems that target people. It should contain positive obligations, that is, affirmative requirements, to ensure meaningful human control in other weapons systems that have elements of autonomy.
最後にコミュニケは、武力行使から人間の制御を排除することで生じる多くの重大な懸念に対処する、禁止と規制を盛り込んだ法的拘束力のある法律文書に表明された幅広い支持に、同意している。「ストップ・キラーロボット」キャンペーン、ICRC、そして多くの国が、そのような国際条約が、人間による意味ある制御を本質的に欠いて自律型兵器システムや、人を標的とするシステムを禁止するべきだと述べた。またそのような国際条約は、自律的な要素を持つ他の兵器システムに意味のある人間による制御を確保する、積極的な義務、すなわち肯定的な必要条件を、盛り込んでいなければならない。
Competing Statements 相反する声明
The Belén Communiqué is the third joint statement on this topic to be issued in a matter of weeks, and it is significantly stronger than its counterparts.
ベレン・コミュニケは数週の間にこの話題に関して出た3番目の声明であり、他のものよりもかなり強力なものだ。
The United States unveiled a proposed political declaration on Feb. 16 that seeks to ensure responsible use of weapons systems that incorporate AI capabilities. The State Department describes the proposed U.S. declaration as “a series of non-legally binding guidelines describing best practices for responsible use of AI in a defense context.” It has not provided a timeline for when the declaration might be finalized or indicated who might endorse it.
米国は2月16日、AI機能を組み込んだ兵器システムの責任ある使用を確保することを求める、政治宣言案を明らかにした。国務省は米国の宣言案を 「防衛の文脈におけるAIの責任ある使用のための最良の実践を述べる、一連の法的拘束力のないガイドライン」として説明している。国務省は、この宣言がいつ最終決定されるのか、また、誰がこの宣言を支持するのかについては示していない。
The Netherlands issued a “call to action” on the same day at the close of a conference that it co-hosted with South Korea in The Hague on “responsible use of AI in the military domain.” The call recognizes that “failure to adopt AI in a timely manner may result in a military disadvantage, while premature adoption without sufficient research, testing and assurance may result in inadvertent harm.” The Netherlands has published a list of 57 countries that it says have endorsed the call.
オランダは、「軍事領域におけるAIの責任ある使用」に関し、ハーグで韓国と共催した会議の閉会時に、「行動への呼びかけ」を発表した。その呼びかけは、「AIを適時採用しなかった場合、軍事的に不利になる可能性があり、十分な調査、テスト、保証のない早すぎる採用は、不慮の危害をもたらす可能性がある」と認識している。オランダは、この呼びかけに賛同したという57ヶ国のリストを公表した。
The recent Dutch and U.S. initiatives, however, fail to address the need to regulate autonomy in weapons systems through the adoption of new international law. They starkly contrast with the Belén Communiqué, which affirms the need for countries to “collaborate to promote the urgent negotiation of an international legally binding instrument, with prohibitions and regulations with regard to autonomy in weapons systems.” The Stop Killer Robots campaign has welcomed the Belén Communiqué for demonstrating “genuine political leadership in showing a way forward” toward the goal of new international law.
しかし、オランダと米国による最近のイニシアチブは、新たな国際法の採択で兵器システムの自律性を規制する必要性に対処していない。ベレン・コミュニケは、各国が「兵器システムの自律性を禁止し規制する、国際的な法的拘束力のある法律文書の緊急交渉を、促進するために協力する」、必要性を確認しており、オランダと米国のものとはまったく対照的である。「ストップ・キラーロボット」キャンペーンは、ベレン共同声明による新たな国際法の目標に向けて「前進する道を示す真の政治的リーダーシップ」の発揮を高く評価した。
The Dutch and U.S. statements accept continued development and acquisition of autonomous weapons systems so long as doing so complies with existing law, processes, and ethical principles. The campaign has criticized both proposals for offering “vague and incoherent visions on the responsible use of military AI, without clarity on the rules or limitations needed on development and use.” Instead of creating adequate controls on the development of autonomous weapons, the Dutch and U.S. initiatives could facilitate even greater investments in these weapons.
オランダと米国の声明は、自律型兵器システムの開発と取得を、それが既存の法律、プロセス、倫理原則を遵守する限り、継続的に行うことを受け入れている。キャンペーンは、両提案が 「開発と使用に必要なルールや制限を明確にせず、軍事用AIの責任ある使用に関する曖昧で支離滅裂なビジョン」を示していると批判した。オランダと米国のイニシアチブは、自律型兵器の開発に対する適切な制御を生み出す代わりに、これらの兵器への投資をさらに拡大することを促進する可能性がある。
The Way Ahead これから先の道筋
Autonomous weapons systems present a grave problem that can affect any country in the world, so clear, strong, and global rules are important and urgent. To protect humanity, countries should support the negotiation of new international law to prohibit and restrict autonomous weapons systems.
自律型兵器システムは世界中、いかなる国にも重大な問題をもたらすので、明確で強力な世界的規則が重要かつ緊急に必要だ。人間を守るために、各国は新たな国際条約の交渉を支支援し、自律型兵器システムを禁止し制限すべきだ。
Voluntary measures, such as codes of conduct, interpretations of how existing law applies, and non-binding principles, may be appealing to countries that oppose negotiating new law yet want to appear as though they are “doing something.” But they only pave the way for a more uncertain and dangerous future that involves automated killing.
行動規則のような自主的措置、現行法の解釈、強制力を持たない原則は、新たな法律の交渉に反対しながら、あたかも「何かしている」と見られたい国々には、魅力があるかもしれない。しかしそれらは、自動化された殺人を内在する、より不確かで危険な未来に道を開くだけだ。
The challenge now is how to achieve new international law. Particularly since the start of the Covid-19 pandemic, diplomatic talks on lethal autonomous weapons systems under the auspices of the Convention on Conventional Weapons (CCW) have become deadlocked. The last substantive agreement by countries participating in the CCW meetings was the adoption of guiding principles for discussions in 2019. The CCW’s Group of Governmental Experts has provided a convenient talk shop, but it has shown repeatedly that it is incapable of producing a credible outcome.
現在の課題は新たな国際法を如何に達成するかだ。新型コロナウィルス・パンデミックの始まり以降とりわけ、自律型兵器システムに関する特定通常兵器使用禁止制限条約（以下ＣＣＷ）のもとでの外交的な話し合いは行き詰ってきた。ＣＣＷ会議に参加している国々による、最後の実質的な合意は、2019年における議論にむけた指針の採択だった。ＣＣＷの政府専門家会合は、お手頃な議論するだけの場を提供してきたが、それは信頼に足る結果を生み出せないことを、何度も明らかにしてきた。
The main reason for the lack of progress under the CCW is that its member countries rely on a consensus approach to decision-making, which means a single country can reject a proposal, even if every other country agrees to it. A handful of major military powers, notably Russia, have repeatedly blocked proposals to move to negotiations since 2021.
CCWのもとで進展しない主な理由は、加盟国が意思決定に全会一致制をとっており、他の全ての国が同意しても、一国が提案を拒否することができるからである。一握りの軍事大国が、とりわけロシアは2021年以降、交渉に移行する提案を繰返し妨害してきた。
To make progress an alternative forum must be found. It is time to step outside the CCW to another forum that can aim higher, move faster, and be more inclusive of countries that are not part of the CCW as well as of civil society. One option is to undertake an independent process outside of U.N. auspices, as was used for the treaties banning antipersonnel landmines and cluster munitions. Another is a process initiated through the U.N. General Assembly, which is how the Treaty on the Prohibition of Nuclear Weapons was achieved. These precedents show how – with political will and voting-based decision-making – like-minded States can negotiate and adopt strong treaties in 15 months or less.
進展のためには、別の場が設けられねばならない。より高い目標を掲げ、より迅速に行動し、CCW未加盟国や市民社会をより多く取り込める別の場に、CCWの外に足を踏み出す時だ。一つの選択肢は、対人地雷やクラスター弾を禁止する条約で用いられたように、国連の支援外で独立したプロセスを実施すること。もう一つは、核兵器禁止条約を成立させた時のように、国連総会を通じたプロセスだ。それらの先例は、政治的な意思と投票での意思決定があれば、志を同じくする国々が15ヶ月以内に強力な条約を交渉・採択できることを示している。
While the Belén Communiqué does not specify where negotiations of a treaty should take place, it recognizes the need to address the issue not only under the CCW but also in “other multilateral fora.” Furthermore, some States at the conference, such as Mexico and Trinidad and Tobago, welcomed the possibility of action in various venues, notably the U.N. General Assembly or the Human Rights Council.
ベレン・コミュニケは、条約交渉の場を明示していないが、CCWだけでなく、"他の多国間フォーラム "でこの問題を扱う必要性を認めている。更に会議参加国の中でメキシコやトリニダード・トバゴなどは、国連総会や人権理事会など様々な場での行動の可能性を歓迎していた。
At the beginning of this year, U.N. Secretary-General António Guterres warned that “technology is not moving incrementally” and neither should efforts to regulate and prevent harm. He again called for internationally agreed limits on lethal autonomous weapons systems.
今年初め、アントニオ・グテーレス国連事務総長は、「テクノロジーは徐々に動いているのではない」「規制や被害を防ぐための努力も必要だ」と警告し、再度、自律型致死兵器システムに対して国際的に合意された制限を設けるよう求めた。
Technology is indeed advancing rapidly, and autonomy is playing an increasing role in the use of force. After a decade of debate, it is urgent to start drafting new legally binding rules to prevent the automation of killing.
技術は確かに急速に進歩しており、自律性が武力行使に果たす役割も大きくなっている。10年にわたる議論の末、殺人の自動化を防ぐ新たな法的拘束力のある規則の起草開始が急務だ。
