ChatGPTを楽しんでいるが思わぬ危険があることを知った。
あるひとのYouTubeで紹介されていた話だが、自らの意見がどの程度反映されているかどうかをチェックしてみたところ、全くいったこともない真反対の説明がなされていたという。
この人は「どうしてこんなことが起きるのか」と探っていくとアマゾン書評のコメント欄にある批判的文書からデータを持ってきていることがわかった。
ChatGPT君はアマゾン書評のコメント欄も一緒くたにしてこの人の意見として集約して生成していたのだ。この対策は容易ではないと思えてくる。収集するデータの中に潜り込む技術はアマゾン書評のコメント欄にある批判的文書だけではなく、いくらでも出てくるだろう。ネット上に次々とウィルスが出現するのと同じく新しい危険なデータ収集潜り込み作戦は出てくる。そしてこのなりすましデータは生成AI経由でどんどん自動増殖して抑えることができない。どうやって抑えるのだろう、想像もつかない恐ろしさがある。
こうした欠点を知って自らの独裁に利用するのは実に簡単だ。データを捏造することが可能になる。
ハラリはホモ・デウス下で以下のように述べる。
アメリカのＮＳＡ（国家安全保障局）は私たちの会話や文書をすべて監視しているかもしれないが、この国の外交政策が繰り返し失敗していることから判断すると、ワシントンにいる人は集めた膨大なデータをどうすればよいのかわかっていないようだ
もし本当に人類が単一のデータ処理システムだとしたら、このシステムはいったい何を出力するのだろう？データ至上主義者なら、その出力とは、「すべてのモノのインターネット」と呼ばれる、新しい、さらに効率的なデータ処理システムの創造だと言うだろう。この任務が達成されたなら、ホモ・サピエンスは消滅する。ホモ・デウス下
生成AIの成果には感心するが、推進するリバタリアンはこうした真に恐ろしい一面を知っているのだろうか。後手に回ったらもう手遅れということになりかねない。この一件些細に見える危険のレベルは次の警告と同レベルだと思う。
ある企業が人工のスーパーインテリジェンスの第1号を設計し、円周率の計算のような無害の試験を行う。ところが、誰も事態を把握しないうちに、そのAIが地球を乗っ取って、人類を皆殺しにし、銀河の果てまで征服に乗り出して、基地の宇宙全体を巨大なスーパーコンピューターに変え、そのコンピューターがかつてないほど高い精度を追い求めて際限なく円周率を計算し続ける。
なにしろそれが、自分の創造主によって与えられた神聖な使命なのだから。 ホモ・デウス下