「エクス・マキナ」見て、ああ、恐ろしや…と、思ったばかりの私に、更に追い打ちを掛ける恐ろしやニュースが、タイミングよく報道されました。スティーブン・ホーキング博士、イーロン・マスク氏（電気自動車のテスラ社CEOで、すっごい天才）、スティーブ・ウォズニアック氏（アップル社創立した目立たない方のスティーブ氏、今は有り余るお金を使ってロケット飛ばしたり、道楽三昧と聞きます）、ジャン・タリン氏（スカイプの共同創設者、家族が祖国にいる海外在住者の恩人）、デミス・ハッサビス（Google DeepMind創設者）、ノーム・チョムスキーＭＩＴ名誉教授（有名な言語学者）等、100人以上のAI専門家が自律型兵器の禁止を求める書簡を発表したそうです。これは、非営利団体「フューチャー・オブ・ライフ・インスティチュート（FLI）」がアルゼンチンで開かれている国際人工知能会議（IJCAI）で、27日に公開されました。
曰く、"development of autonomous weapons, “a global arms race is virtually inevitable, and the endpoint of this technological trajectory is obvious: autonomous weapons will become the Kalashnikovs of tomorrow.（自立型兵器の開発によって「世界中で武器開発競争が起きるのが避けられないのは明らかだ。そして、その行き着く先は、自立型兵器がカラシニコフになる未来だろう）”だそうです。また、人工知能兵器は核兵器のように高価で入手の困難な特別の材料も必要ないので、簡単に大量生産できるとも。
こういうのんですか
そのように比較的簡単に製造可能になれば、テロリストやウォーロードの手に入り、敵国の襲撃や民族浄化に使用される恐れがあるとも、書簡では述べられています。そういや、巨大ロボットアニメって、宇宙から来た侵略者は無人ロボットを送り込んで地球を破壊しようとするのに、地球軍は兜甲児くんやら南原ちずるちゃんその他やら、もちょっと新しいとこだと碇シンジくんやら、人間が乗って操縦してる。あのノリで民族浄化を企む悪者が高価で高性能な無人人工知能兵器を投入し、貧しい少数民族は昔ながらの手動兵器で防御ってイメージですか？
取り敢えず裕福な軍事大国（例えばアメリカとか、アメリカとか、アメリカのような国）の兵士が危険にさらされる事態は減りそうです。実際、遠隔操作のドローンでの襲撃も、戦争の間化という意味では同様でしょう。でも、一般市民の犠牲が減るって、どういうことなのか、今ひとつ判らない。誤爆が減るとか？
これに対し推奨派は、ＡＩの活用によって、人間、特に一般市民の戦場での安全性が向上され、失われる人命が減ると言いますが、なんか「戦争」って何だっけ…と、悩んでしまう。敵は、土地や機械じゃなく人間であり、時分のの利益を損なう人間を消滅させる、屈服させるのが、戦争の目的ではないのか？なら、アバター同士でやりあうのって、なにかズレてない？
何より、まず第一に、戦争をなくそうというコンセプトがないのか、戦争がなくなるなんて不可能だから想定する価値すらないのか？と、悩む私は平和ボケ？
グローバル化の時もそうでしたが、いくら頭のいい人達が警鐘を鳴らしても、今後の人工知能の発展はもう止められる状況にはないと思います。アトムやドラえもんのような、感情のあるお友達人工知能ロボットを開発するのはまだ夢かもしれないけど、状況を判断し、それを基にコンピューターらしく冷徹な判断を下す人工知能は既に可能なのでしょう。日本人的には、映画に出てきた介護ロボットや、お友達ロボットが先に頭に浮かびがちだけど、災害時に活躍する消火ロボットや救出ロボットも、使い方によっては立派な殺戮兵器になりえます。
この警鐘を鳴らした世界の頭脳の皆さんは、ただ「怖いぞ～！」と警告するだけではなく、だからこそ、そのような事態を避けるための管理や開発に力を注いでいただきたいと思います。防災リュックを供えるとか、防災訓練するとかみたいに、私ら一般人が、なにか対策をとれるとは思えないし…
曰く、"development of autonomous weapons, “a global arms race is virtually inevitable, and the endpoint of this technological trajectory is obvious: autonomous weapons will become the Kalashnikovs of tomorrow.（自立型兵器の開発によって「世界中で武器開発競争が起きるのが避けられないのは明らかだ。そして、その行き着く先は、自立型兵器がカラシニコフになる未来だろう）”だそうです。また、人工知能兵器は核兵器のように高価で入手の困難な特別の材料も必要ないので、簡単に大量生産できるとも。
こういうのんですか
そのように比較的簡単に製造可能になれば、テロリストやウォーロードの手に入り、敵国の襲撃や民族浄化に使用される恐れがあるとも、書簡では述べられています。そういや、巨大ロボットアニメって、宇宙から来た侵略者は無人ロボットを送り込んで地球を破壊しようとするのに、地球軍は兜甲児くんやら南原ちずるちゃんその他やら、もちょっと新しいとこだと碇シンジくんやら、人間が乗って操縦してる。あのノリで民族浄化を企む悪者が高価で高性能な無人人工知能兵器を投入し、貧しい少数民族は昔ながらの手動兵器で防御ってイメージですか？
取り敢えず裕福な軍事大国（例えばアメリカとか、アメリカとか、アメリカのような国）の兵士が危険にさらされる事態は減りそうです。実際、遠隔操作のドローンでの襲撃も、戦争の間化という意味では同様でしょう。でも、一般市民の犠牲が減るって、どういうことなのか、今ひとつ判らない。誤爆が減るとか？
これに対し推奨派は、ＡＩの活用によって、人間、特に一般市民の戦場での安全性が向上され、失われる人命が減ると言いますが、なんか「戦争」って何だっけ…と、悩んでしまう。敵は、土地や機械じゃなく人間であり、時分のの利益を損なう人間を消滅させる、屈服させるのが、戦争の目的ではないのか？なら、アバター同士でやりあうのって、なにかズレてない？
何より、まず第一に、戦争をなくそうというコンセプトがないのか、戦争がなくなるなんて不可能だから想定する価値すらないのか？と、悩む私は平和ボケ？
グローバル化の時もそうでしたが、いくら頭のいい人達が警鐘を鳴らしても、今後の人工知能の発展はもう止められる状況にはないと思います。アトムやドラえもんのような、感情のあるお友達人工知能ロボットを開発するのはまだ夢かもしれないけど、状況を判断し、それを基にコンピューターらしく冷徹な判断を下す人工知能は既に可能なのでしょう。日本人的には、映画に出てきた介護ロボットや、お友達ロボットが先に頭に浮かびがちだけど、災害時に活躍する消火ロボットや救出ロボットも、使い方によっては立派な殺戮兵器になりえます。
この警鐘を鳴らした世界の頭脳の皆さんは、ただ「怖いぞ～！」と警告するだけではなく、だからこそ、そのような事態を避けるための管理や開発に力を注いでいただきたいと思います。防災リュックを供えるとか、防災訓練するとかみたいに、私ら一般人が、なにか対策をとれるとは思えないし…