AIの「名付け親」グーグルを辞めて危険性を警告BBCニュース

記事の紹介のみ。以下リンクと引用

 

AIの「名付け親」ジェフリー・ヒントン氏、グーグルを辞めて危険性を警告

 

https://www.bbc.com/news/world-us-canada-65452940

 

AIの「名付け親」ジェフリー・ヒントン、Googleを辞め、AIの危険性をBBCに語る。

 

人工知能（AI）の名付け親として広く知られている人物が仕事を辞め、この分野の発展がもたらす危険の増大について警告を発した。

 

75歳のジェフリー・ヒントン氏は、ニューヨーク・タイムズ紙への声明でグーグルからの辞職を発表し、自分の仕事を後悔していると述べた。

 

彼はBBCに対し、AIチャットボットの危険性について、「かなり怖い」と語っています。

 

「今現在、私が知る限り、彼らは私たちよりも知能が高いわけではありません。でも、すぐにそうなるかもしれませんね」。

(略)

 

"今、私たちが見ているのは、GPT-4のようなものが、持っている一般的な知識の量で、人を大きく追い越していることです。推論という点では、それほど優れてはいませんが、単純な推論はすでにできるようになっています。

(略)

 

ニューヨークタイムズの記事の中で、ヒントン博士はAIを「悪いこと」に使おうとする「悪役」に言及した。

 

BBCからこのことについて詳しく聞かれると、彼はこう答えた： 「これは、最悪のシナリオ、悪夢のようなシナリオです。

 

"例えば、（ロシア大統領の）プーチンのような悪い役者が、ロボットに自分のサブゴールを作る能力を与えることにしたと想像できます。"

 

科学者は、これがやがて「『もっと力をつけたい』というようなサブゴールを作り出すかもしれない」と警告しています。

(略)

 

彼は、グーグルを批判したいわけではなく、この技術大手は「非常に責任がある」と強調しました。

 

"私は実際にGoogleについて良いことを言いたいのです。そして、私がGoogleのために働いていない方が、より信頼できるのです。"

 

声明の中で、GoogleのチーフサイエンティストであるJeff Deanはこう述べています： "私たちは、AIに対する責任あるアプローチに引き続き取り組んでいます。私たちは、新たなリスクを理解するために継続的に学習しながら、大胆に革新しています。"