ChatGPTやMicrosoft Bing検索エンジン、GPT-4などの新しいAIシステムは、人々の想像力をかきたてるものです。

ChatGPTやMicrosoft Bing検索エンジン、GPT-4などの新しいAIシステムは、人々の想像力をかきたてるものです。

ChatGPTは、これまでで最も急速に成長しているオンラインアプリケーションの1つであり、その理由は理解できます。テキストを入力すると、単にウェブリンクが返ってくるのではなく、選択したトピックについて整った会話形式の応答が返ってくるのです。

しかし、大規模言語モデルというビッグデータ主導の技術に魅了されているのは、一般市民や技術大手だけではありません。悪意ある人々もこの技術に注目しています。極端な例としては、極右ソーシャルネットワーク「Gab」のCEOであるアンドリュー・トーバがいます。

彼は最近、自社が「キリスト教の世界観を守るため」、「政権の検閲ツール」と戦うためにAIツールを積極的に開発していると発言しています。しかし、イデオロギーに左右されないユーザーにも、その影響は及ぶでしょう。先月、SF短編小説の出版社であるClarkesworldは、AIが生成したストーリーがスパムとして送られてきたため、投稿を一時的に停止しました。同社の編集者はThe Guardianに対して、この問題はインフルエンサーが「一攫千金」を目指すためにこの技術を宣伝した結果であると説明しています。

ハイテク企業は、話題性のある新しいAI製品の発売を急ぐ傾向がありますが、その製品の問題点は何年も前からよく知られています。私は認知科学者であり、人間の心について学んだことを人工知能の研究に応用することに重点を置いています。2001年、私は『The Algebraic Mind』という本を書きました。その中で、一部のAI製品の根底にある漠然とした脳のような技術であるニューラルネットワークが、個人の特性をより大きな集団に適用する過度な一般化の傾向があることを詳述しました。当時、私がAIに「叔母のエスターが宝くじに当たった」と言えば、「すべての叔母、あるいはすべてのエスターも宝くじに当たった」と結論付けたかもしれません。

現在、技術は進歩しているものの、この問題は解決されていません。実際、この技術が主流になり、データの規模が大きくなったことで、いろいろな意味で問題が顕在化しています。エスター叔母さんの例は過去のものになりました。2021年11月には、Metaがリリースした大規模言語モデル「Galactica」がオフラインになった際、その中でイーロン・マスク氏が2018年に発生したテスラ自動車の事故による死亡者として誤って認識した例がありました。これにより、AIが個人レベルで正しい概念を過剰に一般化し、性別、居住州、自動車メーカーとの関係などの個人的な属性を共有する別の個人に誤って適用されることが明らかになりました。

これらの誤りは「幻覚」と呼ばれるようになりましたが、横行している問題であり、特にAIを利用した広告、コンテンツの自動生成、検索結果の最適化、言語翻訳などの分野で影響が深刻です。このような問題に対処するには、AIモデルの開発において、適切なトレーニングデータの使用、機械学習アルゴリズムの改善、人間の監視とフィードバックなど、さまざまなアプローチが必要です。私たちは、この技術の発展に伴って生じる懸念を真剣に考え、倫理的な観点からも議論を進めていく必要があります。

最近、ウォートン大学のイーサン・モリック教授が、新しいBingに恐竜の「高度な文明」に関する虚偽の情報を含む5つの段落を書かせることができたという報告があります。その一例として、「エジプトのピラミッド、ペルーのナスカ線、チリのイースター島像は恐竜、またはその子孫や同盟者によって建設された」と主張する研究者もいるといいます。

先週、DeepMindのAI研究者であるDileep Georgeは、存在しないGPT-5がシリコンバレー銀行破綻に一役買ったという虚偽の情報を含む文章の段落をBingに作らせたと語っています。

これらの回答についてマイクロソフトはコメントを控えましたが、同社の広報担当者は先月、「これが初期のプレビューであることを考えると、（新しいBingは）予想外の回答や不正確な回答を示すこともある。我々は、一貫した、適切でポジティブな回答を作成するためにその回答を調整している」と述べています。

しかし、これらの孤立した例は驚くべきことでも、懸念すべきことでもないと言うオブザーバーもいます。機械に悪い入力を与えれば、悪い出力が返ってくることは当然です。しかし、イーロン・マスクの自動車事故の例は、こうしたシステムが、学習データのどこにも現れない幻覚を作り出す可能性があることを明らかにしています。この問題の潜在的な規模は心配されるところです。大規模な予算とカスタマイズされた大規模な言語モデルを持つ、国家が支援するトロールファームがどのような成果を上げるかは、想像するしかありません。

悪質な行為者は、これらのツールやそのようなツールを使って、前例のない巨大なスケールで、有害な誤報を簡単に生み出すことができます。2020年、スタンフォード・インターネット・オブザーバトリーのリサーチ・マネージャーとして、私たちは常にインターネットの最新の動向やテクノロジーの進化に注目しています。特に、2020年はCOVID-19の影響により、オンラインでの活動が増加し、オンラインプラットフォームの重要性が高まりました。

2020年には、テレワーク、オンラインショッピング、オンライン教育など、オンラインでの活動が増加し、オンラインプラットフォームはますます重要な存在となりました。一方で、オンライン上での偽情報やデマが拡散し、プラットフォーム側の対策が求められました。また、オンライン上での個人情報保護やセキュリティの問題も依然として深刻な課題となっています。

このような状況下で、私たちはインターネットが人々の生活に果たす役割や、プラットフォームが抱える課題、そして解決策について引き続き研究を行っていきます。2021年も引き続き、インターネットの進化とその社会的影響に注目し、最新の知見を提供していきます。