つらつら日暮らし

Google「AI Overviews」運用開始に因んで「AIのハルシネーション」について

グーグルの生成AI検索、日本で開始 「AI Overviews」(ImpressWatch)
グーグルの生成AI検索「AI Overviews」が日本にもやってくる!(ASCII)

8月15日、Googleは検索キーワードについて、Webの検索結果を活用しながら独自のまとめを自動で生成して表示するAI検索機能「AI Overviews」を日本で導入すると発表しました。以下の通りです。

AI による概要 : ウェブにつながる新しい方法(GoogleJapanBlog)

overviewが「概要」という意味なので、この記事が紹介されているわけです。

ところで、紹介記事の方では、AI OverviewsはGoogleの検索結果から要約するため、AIによるハルシネーションが起きづらいと評価されています。

「AIのハルシネーション」?ということで、この用語は元々、「幻覚」「幻影」を意味しますが、AIが全く存在しない事実などを結果として生成してしまうことを、「ハルシネーション」というようです。

解説:生成AIのハルシネーションはなぜ起きるのか( MIT TECHNOLOGY REVIEW Japan)
ハルシネーション(Hallucination)とは?(ITmedia)
ハルシネーション(NRI)

上記記事をまとめると、「ハルシネーション」とは、人工知能(AI)がまるで幻覚(=ハルシネーション)を見ているかのように、もっともらしい嘘(事実とは異なる内容)を出力することを指します。他に「作り話」を意味する「コンファビュレーション」とか、「妄想」を意味する「ディルージョン」などとも呼称されるようですね。

拙僧も受け持ちの授業で、学生相手に「ハルシネーション」の事例を実感させたことがありましたが、それでも生成AIを使ったレポートなどが出てくるので、それが困ったものではあります。そういえば、こんな記事もありましたね。

生成AI利用の学生、3割が「コピペ」で課題提出…回答の確認方法は6割超が「知らない」(YomiuriOnline)

まぁ、この対処法も含めて今後の課題かな。要するに、学生に「ハルシネーション」への対処法も教育すれば良いのだろうけどね。とはいえ、それは研究者並みの努力になるかもしれないけどな。

ニュース - ブログ村ハッシュタグ
#ニュース
名前:
コメント:

※文字化け等の原因になりますので顔文字の投稿はお控えください。

コメント利用規約に同意の上コメント投稿を行ってください。

 

※ブログ作成者から承認されるまでコメントは反映されません。

  • Xでシェアする
  • Facebookでシェアする
  • はてなブックマークに追加する
  • LINEでシェアする

最近の「ネット・PC・AI・ケータイ・スマホ関連」カテゴリーもっと見る

最近の記事
バックナンバー
人気記事