戦場における生殺与奪の判断をキラーロボットに委ねてはならない
2013年5月30日パブリック・サービス・ヨーロッパ掲載
This week at the United Nations in Geneva, governments for the first time debated what to do about weapons that - once activated - would be able to select and engage targets without further intervention by a human. While it is good news that no country said 'bring them on', the challenge is how to nip the idea in the bud - before it's too late.
今週ジュネーブの国連で、各国政府は初めて、ひとたび起動すればそれ以降、人間の介在なしに標的を選択し交戦できる兵器について、どうすべきか議論した。何処の国も「もっと進める」と言わなかったのは良いニュースだが、手遅れになる前に、そういった考え方を如何にして未然に防ぐのかが課題だ。
These fully autonomous weapons, sometimes called 'killer robots', do not exist yet. But already many robotic systems with various degrees of autonomy and lethality are being developed or used by nations with high-tech militaries such as the United States, China, Israel, South Korea, Russia, and the United Kingdom. It is clear that these and, perhaps, other countries are moving toward systems that would give full combat autonomy to machines.
時に「殺人ロボット」と呼ばれるそのような完全自律型兵器は、今のところ存在しない。しかし既に、米国、中国、イスラエル、韓国、ロシア、英国など高度な技術を有する軍を有す国が、様々なレベルの自律性と致死力を備えた多くのロボット・システムを、開発しあるいは使用しつつある。そしてそれらの国、更におそらく他の国々も、完全な戦闘自律性を機械に与えるシステムに向かって動いているのも明らかだ。
Over the last decade, the expanded use of unmanned armed vehicles or drones has dramatically changed warfare; bringing new humanitarian and legal challenges. Imagine weapons that would be able to select and attack targets without any meaningful human intervention. The issue has been placed on the agenda of the UN Human Rights Council with the presentation of a report on lethal autonomous robotic weapons by Christof Heyns, a South African lawyer.
過去十年の間に、無人武装車両や無人航空機（ドローン）の使用は拡大し、戦闘の形態は劇的に変化、その結果、新たな人道的、法律的な問題が生じた。人間の実効ある介在なしに、標的を選択し攻撃できる兵器を想像して頂きたい。この問題は、南アフリカの法律家クリストフ・ヘインズ氏が、「致死力を備えた自律型ロボット兵器に関する報告書（以下国連報告書）」を国連人権理事会に提出、同理事会の議題になった。
Professor Heyns is the UN special rapporteur on extrajudicial, summary or arbitrary executions for the Office of the High Commissioner for Human Rights. The UN report describes multiple moral, ethical, legal, policy, technical, and other concerns with respect to these weapons. Its recommendations include a call for an immediate moratorium on lethal autonomous robotic weapons and for countries to work for an international agreement to address the concerns identified in the report.
ヘインズ教授は、国連人権高等弁務官事務所の「超法規的・即決或いは恣意的処刑に関する」国連特別報告者だ。そのような兵器に関する道徳的・倫理的・法律的・政策的・技術的他の多様な懸念について、国連報告書は詳述し、その勧告には、致死力を備えた自律型ロボット兵器の即時停止要請と、報告書が明らかにした懸念に対処する、国際的合意形成に向けた各国への取組要請が盛り込まれている。
Until this week, only one country had publicly articulated its views on this issue. In November 2012, the US Department of Defence issued a directive that for now requires a human being to be "in-the-loop" when decisions are made about using lethal force. For up to 10 years, the directive generally allows the Defence Department to develop or use only fully autonomous systems that deliver nonlethal force - unless department officials waive the policy at a high level.
今週までこの問題に関し見解を公の場で明確にしたのは1国だけだ。米国防省は2012年11月に命令を出し、現時点においては、致死力を備えた兵器をめぐる意思決定に人間が関与することを義務づけた。この命令により、国防省高官がそれを撤回しない限り最長で10年にわたり、致死力を備えない完全自律型兵器システムのみの開発・使用しか、同省は概ねできなくなった。
In effect, the directive constitutes the world's first moratorium on lethal fully autonomous weapons. While a positive step, a moratorium is not a comprehensive or permanent solution to the potential problems posed by fully autonomous systems. Policies of self-restraint, while helpful, may also be hard to sustain if other nations begin to pursue and deploy fully autonomous weapons systems.
事実上この命令は、致死力を備えた完全自律型兵器に対する、世界初の一時停止措置である。それは歓迎されるべき歩みであるが、完全自律型兵器システムがもたらす潜在的な問題への全面的あるいは恒久的な解決策ではない。他の国々が完全自律型兵器システムの配備を始めたら、命令に包含される自己規制方針の維持は困難になる可能性がある。
This is why we at Human Rights Watch have joined with other non-governmental organisations to form the Campaign to Stop Killer Robots, a new international coalition of civil society groups that is working to pre-emptively ban weapons that would be able to select and attack targets without any human intervention. This prohibition should be achieved through an international treaty, as well as national laws and other measures, to enshrine the principle that decisions to use lethal force against a human being must always be made by a human being.
それが、私たちヒューマン・ライツ・ウォッチが他のNGOと共に、「ストップ・キラーロボット」キャンペーンを、結成した理由だ。同キャンペーンは、人間が関与することなく標的の選択と攻撃が可能な、致死力を備えたロボット兵器の先制的禁止に向け活動する、市民社会の新たな国際的連合である。人間に致死力を備えた力を行使するという判断は、常に人間によって行われなければならないという原則を盛り込んだ、国際条約や国内法他の措置により、キラーロボットの禁止は達成されるべきである。
When the UN report was delivered to the Human Rights Council on Thursday, representatives from 26 countries provided their views on lethal autonomous robotic weapons in addition to the European Union and other regional bodies. All agreed that this is an issue of concern that must be addressed in a timely fashion. Many asked when, where and how this challenge could be tackled. Perhaps most important, no state asked why action is needed and defended the status quo. There are many questions to be addressed when it comes to this new issue and now is time for governments, UN agencies, the International Committee of the Red Cross and NGOs to start working together to address them.
木曜日に国連報告書が人権理事会に配布された時、欧州連合や一部の国・地域に限定された国際機関に加えて、26ヶ国の代表が、致死力を備えた自律型ロボット兵器に関する、それぞれの見解を披露した。時機を逃さず対処しなければならない、懸念事項であることに、全員が同意し、多くが何時・何処で・どの様に、この問題に対して取組むのかについて問うていた。おそらく最も重要なのは、何故行動が必要なのかに疑問を呈したり、現状擁護を唱えた国がなかったということだろう。この新たな問題に関してはその対処に当たり、多くの課題があり、各国政府、国連諸機関、国際赤十字委員会、諸NGOは今こそそれに対処すべく一致協力し始めるべきだ。
A starting point would be to agree that humans should never delegate to machines the power to make life-and-death decisions on the battlefield. It is in the interest of America, the UK and other nations to develop global standards to prohibit these kinds of weapons. It is possible to halt the slide toward full autonomy in weaponry before moral and legal boundaries are crossed but only if we work together and start to draw that line now. As the UN report warns, "If left too long to its own devices the matter will, quite literally, be taken out of human hands."
スタート地点は、戦場での生殺与奪を判断する権限を、機械に委ねてはならないということへの合意となるだろう。この種の兵器を禁止する世界的基準を開発するのは、米国や英国他の国々の利益にかなっている。道徳と法律の一線を越える前に、完全自律型兵器への移行を止めることは可能だが、それは私たちが今、その一線を引き始めることでのみ可能となる。「ながく自由裁量に任せ過ぎた場合、この問題は正に、人間の手から、離れてしまうだろう」と国連報告書は警告している。
