グーグル、AIに非常停止ボタン 「暴走」阻止へ開発推進

グーグル、AIに非常停止ボタン
「暴走」阻止へ開発推進 日本経済新聞　朝刊 2016/6/9 3:30

　【シリコンバレー=小川義也】米グーグルが高度に発達した人工知能（AI）が暴走した場合に備えて、「非常停止ボタン」の開発を進めていることが明らかになった。AIをいつでも安全に停止できる仕組みをあらかじめ組み込む。急速に進化するAIの悪用への懸念や社会の不安に応える狙いがありそうだ。

　今年3月に世界トップクラスのプロ棋士を破った囲碁AI「アルファ碁」を開発したグーグル子会社、英ディープマインド・テクノロジーズの研究者と英オックスフォード大学の研究者のグループが仕組みを考案。このほどネット上で論文を公表した。

　具体的には「割り込みポリシー」と呼ぶプログラムをAIに組み込み、人間の指示に従わなかったり、人間に危害を加えようとしたりする場合に、その行動を強制的に停止・変更できるようにする。AIが非常停止ボタンを無効化しないよう、あたかも自分で判断したかのように"だます"のがポイントだという。

　研究グループによると、現存するいくつかのAIは安全に停止できるものの、「すべてのAIを安全かつ簡単に停止できるかは不透明」という。

　ディープマインドは2014年にグーグルによって買収される際、社内に倫理委員会を設置することを条件にするなど、AIの暴走リスクを意識した運営で知られる。

クリントン氏VSトランプ氏 党の分裂抱え本選へ 米大統領選の構図確定

クリントン氏VSトランプ氏 党の分裂抱え本選へ
米大統領選の構図確定 日本経済新聞　朝刊 1面 2016/6/9 3:30

　【ワシントン=吉野直也】11月の米大統領選は7日、民主党のヒラリー・クリントン前米国務長官（68）と共和党の不動産王ドナルド・トランプ氏（69）の対決が確定した。2人は副大統領候補を決め、7月の党全国大会で指名される。大統領になるのは初の女性か、異端か。2人は党内の分裂・反発という不安を抱えながら、本選にのぞむ。




　2人は知名度こそ高いが、米国民の好感度は歴代の候補の中で最低。党内に分裂の火ダネを残した候補同士による異例の大統領選になる。



　民主党候補指名争いは7日、6州で予備選、党員集会を開いた。クリントン氏は西部の大票田カリフォルニアなどで勝利し、バーニー・サンダース上院議員（74）に4勝2敗だった。クリントン氏は7日夜に「米国の歴史で初めて女性が主要政党の大統領指名候補になる」と勝利宣言した。

　党幹部らで構成する特別代議員を含めた代議員4765人のうち指名に必要な過半数を確保した。7月の党全国大会で、代議員の投票を得て指名される。大統領候補の討論会は9月に始める。

　大統領選の大きな争点は、米国社会を覆い、分断の原因になっている経済格差への不満にどう対応するかだ。クリントン氏とトランプ氏の姿そのものが対立軸になる。一つは経験豊富な正統派の職業政治家か、手腕が未知数の非政治家か。もう一つはオバマ米大統領の路線の継承か、刷新か。前者はクリントン氏で、後者はトランプ氏だ。

　「核のボタン」を預かる米軍最高司令官を兼ねる米大統領の資質も争点。クリントン氏は「トランプ氏の気性は米軍最高司令官、大統領としてふさわしくない」と資質に照準を絞る。トランプ氏もその点は意識しており「自分の気性は穏やかだ」と反論している。

　世界秩序に影響する外交・安全保障政策も焦点だ。オバマ政権の1期目で国務長官を務めたクリントン氏は、オバマ氏の多国間対話による国際協調主義を引き継ぐ。トランプ氏はイスラム教徒の米国入国禁止案に象徴される孤立主義が特徴だ。　2人の政策は、ブッシュ前政権が踏み切ったアフガニスタンとイラクの2つの戦争への米国民の厭戦（えんせん）気分が底流にある。トランプ氏はこれに加えテロを巡る米国民の不安心理に乗じ、第2次世界大戦への参戦で否定された孤立主義に傾く。「偉大な米国の復活」（トランプ氏）、「強い米国」（クリントン氏）を実現する手法は2人で大きく異なる。