AIは囲碁の名人を破ったからと言って手放しで無邪気にその将来を迎え入れていいものだろうか、それを文明論的に反証する人もいる、でもこのオトナロイド（以前、日本科学未来館に展示されていた）の直截な表現にはかなわない。どうだろう、このオトナロイド、京都の寺院で見た幽霊の顔よりも不気味だ。これは来るべきAIの恐怖を意図とは裏腹に訴えかける、手遅れにならないうちにAIを監視する議論が高まって欲しいと思う。
攻撃対象を、人間でなく「機械」が判断する。ホーキング博士など著名な科学者たちが、こうした高度な「自律型の兵器システム」に対する懸念を表明した。署名欄には、スティーヴン・ホーキング、イーロン・マスク、ノーム・チョムスキー、ウォズことスティーヴ・ウォズニアックらだ。人間の介入なしに戦闘や殺害が可能な完全に自律型の兵器の開発は、芽のうちに摘み取る必要があると主張している。人間の目をかいくぐり、巧妙に逃げ、潜み人間を攻撃することが「善」であると自律的に学習してしまったロボットは自ら充電しながら人間を襲い続け、自らの複製を増産するという、考えるだけでも恐ろしい行動をはじめる可能性を秘めている。
マスク氏はAIの潜在的な危険は核兵器よりも大きいと述べ、ホーキング博士は、AIは「われわれの存在に対する脅威」だと述べている。自律型兵器、およびAI全般について懸念される主な問題は、急速に変容することだ。
