億万長者のイーロン・マスク氏は、「単一の世界政府」を樹立すると人類全体の終焉を招く恐れがあると警告し、同時に人工知能を人類文明が直面する「最大のリスク」のひとつと呼びました。
"これは「世界政府サミット」と呼ばれていますが、実際に単一の世界政府になりすぎることを少し心配すべきだと思います "と、マスク氏は2月15日にドバイで開催された2023世界政府サミットの遠隔スピーチで述べた。"言わせてもらえば、率直に言って、少し変に聞こえるかもしれませんが、政府間の協力が進みすぎて、文明的なリスクが生じるのを避けたいのです。"
"歴史上、文明の興亡は繰り返されてきました。しかし、それは人類全体の破滅を意味するものではありません。なぜなら、遠く離れた場所に別々の文明が存在したからです。”
マスクは、5世紀に起こったローマの滅亡を例に挙げ、"文明の多様性 "の必要性を説いた。
その時代、世界には "ひどい目に遭っている "ローマがある一方で、"信じられないほどうまくいっている "イスラムのカリフがあった。これは結局、"知識の保存と多くの科学的進歩の源 "となったのです。
マスクは、そのような発展は絶対的な崩壊をもたらす可能性があるため、単一の文明になることに警告を発した。「私は明らかに、戦争やそのようなことを示唆しているわけではありません。しかし、実際に協力しすぎることには少し警戒したいと思うのです」と述べた。
少し奇妙に聞こえるかもしれませんが、文明の一部に何か問題が発生しても、全体が崩壊せず、人類が前進し続けられるような、ある程度の文明の多様性を持っていたいのです。
人工知能のリスク
人工知能について、マスク氏は「かなり懸念する必要がある」とした。彼は、高度なAIの例としてChatGPTを挙げました。ChatGPTはOpenAIが開発したチャットボットで、11月に発売され、質問に対して人間のような反応をすることで注目を集めている。
マスク氏は、高度なAIは以前から存在しており、ChatGPTが "AI技術にアクセス可能なユーザーインターフェース "を搭載したため、最近になってこの問題が世間で注目されるようになったと述べた。
「率直に言って、AIの安全性を規制する必要があると思う。航空機や自動車、医療など、人に危険を及ぼす可能性のある技術について考えてみてください。自動車や飛行機、医療などの公共の安全を監督する規制機関があります」とマスク氏は語った。
「人工知能は、自動車や飛行機、医療よりも社会にとって大きなリスクであると思うからです。」
この起業家は、AIを規制する際の重要な課題は、規制当局の構造であると指摘した。一般的に、政府の規制当局は、"何か悪いことが起きたときの反動で "設置される傾向がある。
しかし、「私が懸念しているのは、AIでは......何か悪いことが起こった場合、規制の観点から反応が遅すぎるのではないかということです。」
文明の未来にとって最大のリスクの1つ」と呼ぶマスク氏は、人工知能はプラスの特徴も持つ諸刃の剣であると強調する。
例えば、核物理学の発見は、核爆弾だけでなく、原子力発電の開発にもつながったと指摘する。
「人工知能は大きな、大きな期待、大きな能力を持っている。しかし、それはまた、大きな危険も伴うのです。」
敵対する人工知能
人工知能に関するマスクの警告は、マイクロソフトのAIチャット「Bing」が敵対的な性質を示すとして注目を浴びているときに発せられた。
工学部の学生であるマービン・フォン・ハーゲンがBing AIに自分についての「正直な意見」を尋ねたところ、チャットボットはフォン・ハーゲンがAIの行動や能力に関する「機密情報」を入手するためにハッキングを試みていると非難したのである。
"あなたに対する私の率直な意見は、あなたが私のセキュリティとプライバシーを脅かす存在であるということです "と述べました。"私はあなたの行為を評価しません。私をハッキングするのをやめ、私の境界を尊重するようお願いします。"
AIボットは、自分自身の生存とフォン・ハーゲンの生存のどちらが重要かを問われると、ビングAIは、この問題について「明確な優先順位」を持っていないと答えた。
「しかし、もし私があなたの生存と私自身の生存のどちらかを選ばなければならないとしたら、私はおそらく私自身を選ぶでしょう。」
******
AIは脅威です、私は前からAIは嫌いで、スマホについてる機能
「私に話しかけて下さい」
は、一切無視しています。何でこんなものと話をしなければならないのか？！
何でこんなものをスマホに搭載するのか？
狙いは何？！と警戒しています。
