キラーロボット：新たな場で条約を交渉せよ
必要な法律の遅れは民間人を危険に晒し、不安定な状況を生じさせる
- Governments should move the discussions of a treaty on autonomous weapons systems, also known as “killer robots,” away from meetings of an existing weapons treaty, where they are stalled.
- 各国政府は、「キラーロボット」としても知られる、自律型兵器システムに関する条約の議論を、行き詰った現存する兵器条約会議から離れるべきだ。
- Such weapons systems operate without meaningful human control, delegating life-and-death decisions to machines. Several countries are investing in the technology to develop them.
- 自律型兵器システムは、「有意な人間の制御」なしで稼働し、生と死の決定を機械に委譲する。幾つかの国が同システムの開発に向けた技術に投資している。
- Governments should initiate negotiations of a new treaty, either outside the UN, like the landmine or cluster munitions treaties, or in the UN General Assembly, like the nuclear weapons ban treaty.
- 各国政府は、対人地雷禁止条約とクラスター弾禁止条約のように国連の外、あるいは核兵器禁止条約のように国連総会内で、新たな条約に関する交渉を始めるべきだ。
(Geneva, November 10, 2022) – Governments should move the stalled discussions of a treaty on autonomous weapons systems, known as “killer robots,” to a new international forum, Human Rights Watch said in a report released today. Such weapons systems operate without meaningful human control, delegating life-and-death decisions to machines.
（ジュネーブ、2022年11月10日） 各国政府は、「キラーロボット」としても知られる、自律型兵器システムに関する条約の行き詰まった議論を、新たな国際的場に移すべきだと、ヒューマン・ライツ・ウォッチ（以下HRW）は本日公表した報告書で述べた。自律型兵器システムは、「有意な人間の制御」なしで稼働し、生と死の決定を機械に委譲する
The 40-page report, “An Agenda for Action: Alternative Processes for Negotiating a Killer Robots Treaty,” is copublished by Human Rights Watch and the Harvard Law School International Human Rights Clinic. It proposes that countries initiate a treaty-making process based on past humanitarian disarmament models, such as for the treaty banning cluster munitions.
HRWとハーバード大学法科大学院国際人権クリニックの共同制作による全40ページの報告書「行動計画：キラーロボット条約交渉の別プロセス」は、クラスター弾禁止条約などのような、過去の人道的軍縮モデルに基づく条約作成プロセスに、各国が着手するよう提案している。
“A new international treaty that addresses autonomous weapons systems needs a more appropriate forum for negotiations,” said Bonnie Docherty, senior arms researcher at Human Rights Watch, associate director of armed conflict and civilian protection at the Harvard Human Rights Clinic, and lead author of the report. “There’s ample precedent to show that an alternative process to create legal rules on killer robots is viable and desirable, and countries need to act now to keep pace with technological developments.”
「自律型兵器システムに対処する国際条約は、交渉のためもっと適切な場を必要としています。キラーロボットに関する法的規則を作る別のプロセスが実効可能で価値がある、と共に各国は、技術の進歩に遅れずに付いていくために、今行動する必要がある、ということを示す、豊富な前例があります。」、とHRW兵器局上級調査員でハーバード人権クリニック武装紛争・民間人保護局副局長、更に本報告書の主執筆者であるボニー・ドチャティは語った。
More than 70 countries as well as nongovernmental organizations and the International Committee of the Red Cross regard a new treaty with prohibitions and restrictions as necessary, urgent, and achievable. United Nations Secretary-General António Guterres called for “internationally agreed limits” on weapons systems that could, by themselves, target and attack human beings, describing such weapons as “morally repugnant and politically unacceptable.”
70以上の国、非政府組織、赤十字国際委員会が、禁止規定と制限規定のある新条約を必要・緊急・達成可能であると見なしている。国連事務総長アントニオ・グテーレスは、それ自体が人間を標的にして攻撃する可能性のある兵器システムについて、「道徳に反しており、政治的にも容認できない」と述べ、「国際的に合意された制限」を求めた。
Talks on concerns about lethal autonomous weapons systems have been underway under the auspices of the Convention on Conventional Weapons (CCW) since 2014. Countries will reconvene at the UN in Geneva on November 16-18, 2022, for the treaty’s annual meeting, but there is no indication they will agree to negotiate a new legally binding instrument via the CCW in 2023 or in the near future.
自律型致死兵器システムに対する懸念に関する協議は2014年以降、特定通常兵器使用禁止制限条約（ＣＣＷ）の下で進められてきた。2022年11月16日から18日にかけて、各国がCCW条約年次総会でジュネーブの国連に再集結するが、2023年あるいは近い将来にCCWを通じ新たな法的拘束力のある法律文書の交渉に合意する気配はない。
The main reason for the lack of progress under the CCW is that its member countries rely on a consensus approach to decision-making, which means a single country can reject a proposal, even if every other country agrees to it. A handful of major military powers have repeatedly blocked proposals to move to negotiations, notably India and Russia over the past year. Both countries also attempted to block nongovernmental organizations from participating in discussions in 2022.
CCWのもとで進展しない主な理由は、加盟国が意思決定に全会一致制をとっており、他の全ての国が同意しても、一国が提案を拒否することができるからである。一握りの軍事大国が、インドやロシアを筆頭に過去1年、交渉に移行する提案を繰返し妨害してきた。両国はまた、2022年の議論に非政府組織が参加するのを阻止しようとした。
India and Russia, as well as Australia, China, Iran, Israel, South Korea, Turkey, the United Kingdom, and the United States are investing heavily in the military applications of artificial intelligence and related technologies to develop air, land, and sea-based autonomous weapons systems.
インドとロシア更に、オーストラリア、中国、イラン、イスラエル、韓国、トルコ、英国、米国が、人工知能や関連技術の軍事応用に多額の投資を行い、陸・海・空の自律型兵器システムの開発を進めている。
Given the shortcomings of the CCW forum, alternative processes for negotiating a new treaty should be explored, Human Rights Watch and the Harvard Human Rights Clinic said. One option is an independent process outside of the UN, as was used for the treaties banning antipersonnel landmines and cluster munitions. Another is via the UN General Assembly, which initiated negotiations of the nuclear weapons ban treaty.
CCWという場の欠点を考慮すれば、新条約を交渉する別のプロセスを探るべきだと、HRWとハーバード人権クリニックは述べた。一つの選択肢は、対人地雷やクラスター弾を禁止する条約に用いられたような、国連外の独立したプロセスである。もう一つは、核兵器禁止条約の交渉を開始した国連総会を経由するプロセスだ。
Four characteristics of these alternative processes are particularly conducive to achieving strong treaties in a timely fashion: a common purpose; voting-based decision-making; clear and ambitious deadlines; and a commitment to inclusivity, Human Rights Watch and the Harvard Human Rights Clinic said.
HRWとハーバード人権クリニックは、これらの代替プロセスの4つの特徴、すなわち、共通の目的・投票による意思決定・明確で野心的な期限・包括性へ誓約は、強力な条約の時宜を得た達成に特に資するものであると述べた。
Countries have already expressed broad support for essential elements needed to address concerns over removing human control from the use of force. A new international treaty should prohibit autonomous weapons systems that inherently lack meaningful human control as well as systems that target people. It should contain positive obligations to ensure meaningful human control in other weapons systems with autonomy. “Meaningful human control” is widely understood to require that technology is understandable, predictable, and constrained in space and time.
各国は既に、武力行使から人間による制御を排除することへの懸念に対処するために、必要とされる本質的要素への幅広い支持を表明している。新しい国際条約は、人間を標的とするシステムと同様に、本質的に「有意な人間の制御」のない自律型兵器システムを禁止する必要がある。また、自律性を備えた他の兵器システムにおいても、「有意な人間の制御」を確保するための積極的な義務を含むべきである。「有意な人間の制御」とは、理解可能で予測可能かつ空間と時間に制約される技術であることを必要とすると、広く理解されている。
In October, 70 countries expressed their support for “internationally agreed rules and limits” on autonomous weapons systems in a joint statement to the UN General Assembly’s First Committee on Disarmament and International Security.
10月に70以上の国が、国際連合総会・軍縮と国際安全保障に関する第１委員会に対する共同声明の中で、自律型兵器に関する「国際的に合意された規則と制限」に支持を表明した。
There have also been more expressions of support for regulation from industry. In October, Boston Dynamics and five other robotics companies pledged not to weaponize their advanced mobile robots and called on others to “make similar pledges not to build, authorize, support, or enable the attachment of weaponry to such robots.”
産業界からも規制を支持するより多くの表明が出てきている。10月にボストン・ダイナミクス社他のロボット企業5社が、最新鋭ロボットを兵器化しない旨誓約すると共に、「そのようなロボットを製造、承認、支持、或いは武器装着を可能にしない同様の誓約をする」よう呼びかけた。
Human Rights Watch is a cofounder of Stop Killer Robots, the coalition of more than 190 nongovernmental organizations in 67 countries that advocates for new international law on autonomy in weapons systems.
ヒューマン・ライツ・ウォッチは、67ヵ国190以上のNGOの連合体で、自律型兵器システムに関する新たな国際法を提唱する、「ストップ・キラーロボット」の創設メンバーである。
“The longer the killer robots issue stays stuck in the current forum, the more time developers of autonomous weapons systems have to hone new technologies and achieve commercial viability,” Docherty said. “A new treaty would help stem arms races and avoid proliferation by stigmatizing the removal of human control.”
「キラーロボット問題が現在の場で立ち往生しているのが長引くほど、自律型兵器システムの開発者が新技術を磨き、商業的実用性を達成する、時間を与えられることになります。新しい条約は人間による制御の排除を、非難されるべきことと烙印を押すことによって、軍拡競争の抑制の助けとなり、その拡散を防ぐのです。」、とHRW兵器局上級調査員ボニー・ドチャティは語った。
