キラーロボット：人による操作を支持する根拠
各国が自律稼働型兵器システムを協議
(Geneva April 11, 2016) – Countries should retain meaningful human control over weapons systems and ban fully autonomous weapons, also known as “killer robots,” Human Rights Watch and the Harvard Law School International Human Rights Clinic said in a report issued today. The concept of meaningful human control will be a centerpiece of deliberations at a week-long multilateral meeting on the weapons, opening April 11, 2016, at the United Nations in Geneva.
（ジュネーブ、2016年4月11日）－各国は兵器システムへの人による「意味ある管理・制御（以下実質的操作）を維持すると共に、キラーロボットとしても知られる完全自律稼働型兵器を禁止しなければならない、とヒューマン・ライツ・ウォッチ（以下HRW）とハーバード大学法科大学院国際人権クリニックは、本日公表した共同報告書で述べた。人による実質的操作の概念は、2016年4月11日から1週間、ジュネーブの国連で兵器に関して開催される多国籍間会議における討議の最重要課題となる。
The 16-page report, “Killer Robots and the Concept of Meaningful Human Control,” discusses the moral and legal importance of control and shows countries’ growing recognition of the need for humans to remain in charge of the critical functions of selecting and firing on targets.
全16頁の報告書、「キラーロボットと人による実質的操作の概念」は、目標選定と攻撃という、極めて重要な機能を管理・制御することの道徳的かつ法律的な重要性を議論すると共に、それを人が担い続ける必要性に、各国の認識が高まりつつあることを明らかしている。
“Machines have long served as instruments of war, but historically humans have directed how they are used,” said Bonnie Docherty, senior arms division researcher at Human Rights Watch and the report’s lead author. “Now, there is a real threat that humans would relinquish their control and delegate life-and-death decisions to machines.”
「マシンは長年、戦争の道具を務めてきましたが、どう使われるのについては歴史的に人が命令してきました」、とHRW上級兵器調査員＆報告書の主要な執筆者、ボニー・ドチャティは語った。「しかし今、人が実質的操作を止め、生死に関する決定をマシンに任せる危険が、現実味を帯びています」
Fully autonomous weapons would go a step beyond existing remote-controlled drones as they would be able to select and engage targets without human intervention. Although these weapons do not exist yet, the rapid movement of technology from human “in-the-loop” weapons systems toward “out-of-the-loop” systems is attracting international attention and concern.
完全自律稼働型兵器は人の介在なしで標的を選定し交戦できるので、現存する遠隔操作無人機より一歩先を行っている。そのような兵器はまだ存在しないが、「人が操作の一環に組込まれている兵器システム」から「人が操作に関与できない兵器システム」に向かう技術の急速な動きが、国際的な関心と懸念を呼び起こしている。
Human Rights Watch and the Harvard program also examined the rules requiring control in various areas of international law, including disarmament, and how they could provide insight into the use of the term in the context of autonomous weapons. Bans on mines, biological weapons, and chemical weapons show the value disarmament law has placed on control of weapons. A requirement for meaningful human control over lethal force would in effect prohibit the use of fully autonomous weapons and thus achieve a preemptive ban on fully autonomous weapons, the organizations said.
HRWとハーバードの共同事業はまた、軍備縮小を含む国際法の様々な分野で、兵器の実質的操作を求める規範や、その規範が自律稼働型兵器関連の用語使用について手掛かりとなった実態について検証した。地雷・生物兵器・化学兵器の禁止は、軍縮法が兵器の実質的操作に果たしてきた、有用性を明らかにしている。致死力を伴う武力への人による実質的操作を求める必要性が、完全自律稼働型兵器を事実上禁止し、その流れで完全自律稼働型兵器をあらかじめ禁止することになる。
The report will be distributed at the third international meeting on lethal autonomous weapons systems at the UN in Geneva from April 11 to 15. Many of the 122 countries that have joined the Convention on Conventional Weapons are expected to attend this meeting of experts on the subject, which Germany is chairing. The meeting continues deliberations on the matter held in April 2015 and May 2014.
今回の報告書は、4月11日から15日までジュネーブの国連で開催される、致死力を備えた自律稼働型兵器システムに関する第3回国際会議に配布される予定だ。特定通常兵器使用禁止制限条約（以下CCW）に加盟する122ヶ国の多くが、ドイツが議長を務めるその課題に関する専門家会議に、出席を見込まれている。会議は2014年5月と2015年4月に行われた、同じ課題での討議を継続する。
Human Rights Watch coordinates the Campaign to Stop Killer Robots, which believes that work in the Convention on Conventional Weapons forum should lead to new international law prohibiting fully autonomous weapons. The Convention on Conventional Weapons preemptively banned blinding lasers in 1995.
CCWでの活動が、完全自律稼働型兵器を禁止する新たな国際法に繫がる、とHRWは確信し、「ストップ・キラーロボット」キャンペーンをコーディネートしている。CCWは1995年、失明をもたらすレーザー兵器の使用をあらかじめ全面禁止した。
“Humans should retain control of weapons systems and individual attacks, not only of overall operations,” said Docherty, who is also a lecturer at the Harvard human rights clinic. “Mandating human control would help avoid threats to the fundamental moral principles over the decision to use force.”
「作戦全体だけでなく、兵器システムと個々の攻撃の管理・制御を、人が保持すべきです」、とハーバード人権クリニック講師でもあるドチャティは語った。「人による操作の維持が、武力行使決定に関する基本的な道徳原則への脅威の回避に役立つはずです」
Fully autonomous weapons would lack the human capacity to feel empathy, which can act as a key check on killing, the organizations said. Ceding human control over decisions about who lives and who dies would also deprive people of their inherent dignity, as inanimate machines can neither truly comprehend the value of human life nor the significance of its loss.
人を殺害する行為の大きな抑制となり得る、同情心を感じる人としての能力に、完全自律稼働型兵器は欠ける。人命の価値や人命損失の重大性を真に理解しない、無生物であるマシンに、誰が生き誰が死ぬのかの決定に関する人の実質的操作を移譲することは、人々から本質的な尊厳を奪うことになる。
Mandating meaningful human control would close the accountability gap that would be created by the use of fully autonomous weapons. It would ensure that someone could be punished for an unlawful act caused by the use of the weapon. With a legal requirement for human control, a commander could be held criminally liable for using any weapon without such control.
人による実質的操作は、完全自律稼働型兵器の使用がもたらすアカウンタビリティーの欠如を埋める。それはまた、兵器使用で違法行為に関与した者を処罰することも保証する。人による実質的操作を法的要件にすれば、それなしで兵器を使用した行為で、指揮官は刑事責任を問われることになる。
Meaningful human control over the use of weapons is also consistent with and promotes compliance with the principles of international humanitarian law, notably distinction and proportionality. Distinction requires the ability to understand an individual’s behavior and proportionality requires human judgment to weigh civilian harm and military advantage. Human control is also crucial to upholding human rights law. Two UN special rapporteurs said in February that: “Where advanced technology is employed, law enforcement officials must remain personally in control of the actual delivery of use of force.”
兵器使用に関する人による実質的操作はまた、国際的人権保護法の各種原則、とりわけ区別と均衡性の原則に調和すると共に、その順守を促進する。区別原則は、人の行動を理解する能力を求め、均衡性原則は民間人への危害と軍事的利益を比較検討した上での人による決定を求める。2人の国連特別報告者が今年2月、「最新技術を採用する場合、法執行官は実際の武力行使を個人的に管理・制御しなければならない」、と述べた。
Since the international debate over full autonomy in weapons systems began at the Convention on Conventional Weapons meeting in 2013, almost 30 countries have specifically addressed the concept of human control in their statements, largely characterizing it as meaningful, appropriate, or effective. Many of these countries explicitly support requiring human control and most have called for more in-depth discussions of the topic.
兵器システムにおける完全自律稼働に関する国際的な議論が、2013年のCCW会議で始まって以降、ほぼ30ヶ国が人による実質的操作の概念に具体的に取組み、それを有意義・適切・効果的であるとして概ね特徴づけている。それらの国々の多くは、人による実質的操作の義務付けを明確に支持すると共に、殆どは当該テーマについてのより徹底的な議論を求めた。
The concept of meaningful human control is also gaining currency outside of the Convention on Conventional Weapons. For example, a 2015 commentary on the right to life issued by the treaty body of the African Charter of Human and People’s Rights found that: “Any machine autonomy in the selection of human targets or the use of force should be subject to meaningful human control.”
人による意味ある管理・制御の概念はまた、CCW外でも受け入れられつつある。例えば「人及び人民の権利に関するアフリカ憲章」の条約機関が出した、生存権に関する2015年の解釈は、「人を標的選定する或は武力行使する自律稼働型マシンは、人による実質的操作を受けなければならない」、と宣言した。
Countries participating in the Geneva meeting will not make any formal decisions. The meeting aims to build a common base of knowledge about technical, ethical, legal, operational, security, and other concerns relating to the weapons. However, they “may agree by consensus on recommendations for further work for consideration” by the treaty at its Fifth Review Conference, a multilateral meeting held every five years, in December 2016.
ジュネーブでの会議に今回参加する国は、正式な結論は出さないと見込まれる。会議の目的は、技術・倫理・法律・作戦行動上の安全性及びその他完全自律稼働型兵器に関係する懸念について、共通の認識を確立することだ。5年毎の多国間会議として2016年12月に開催される第5回検討会議で、参加国はCCWによる「検討に向けた更なる取組を求める勧告に、全会一致で合意する可能性がある」
Human Rights Watch is a co-founder of the Campaign to Stop Killer Robots. Mary Wareham, advocacy director for the Human Rights Watch arms division, serves as the campaign’s global coordinator. The international coalition of more than 60 nongovernmental organizations is working to preemptively ban on the development, production, and use of fully autonomous weapons.
ヒューマン・ライツ・ウォッチは「ストップ・キラーロボット」キャンペーンの創設メンバーである。HRW武器アドボカシー局長マリー・ワレハムは、同キャンペーンの世界コーディネーターを務めている。60超のNGOからなる国際的な連合体は、完全自律稼動型兵器の開発・製造・使用の全面禁止を求めている。
“Countries should not only dedicate more time to considering concerns about killer robots but also commit to pursue a timely and tangible outcome,” Docherty said. “Substantive work will only be possible if countries adopt policy and legislative measures to retain human control of weapons before the technology advances too far.”
「各国は、キラーロボットに関する懸念の検討にもっと時間を割くだけでなく、時宜にあった具体的な結果の追求を約束すべきです」、とドチャティは指摘した。「技術が発達し過ぎる前に、各国が兵器への人による管実質的操作を保持する政策と法的措置を採用して初めて、実質的な作業は可能になります」
＊HRWは2012年11月に公表した報告書、「失われつつある人間性：殺人ロボットに反対する根拠」で、ロボットとロボット兵器について以下のように定義しています
- Human-in-the-Loop Weapons: Robots that can select targets and deliver force only with a human command;
- Human-on-the-Loop Weapons: Robots that can select targets and deliver force under the oversight of a human operator who can override the robots’ actions; and
- Human-out-of-the-Loop Weapons: Robots that are capable of selecting targets and delivering force without any human input or interaction.
- 人が操作の一環に組込まれている兵器：人による命令によってのみ標的を選定して武力を行使できるロボット
- 人が操作に関与できる兵器：ロボットの行動を無効化できる、人の操作者による管理のもとで、標的を選定して武力を行使できるロボット
- 人が操作に関与できない兵器：人による入力や相互作用なく、標的を選定して武力を行使できるロボット
