続ChatGPT――嘘の言い訳に嘘を重ねる賢さ

　前回、ChatGPTというAI（人工知能）が見事な日本語能力をもつ半面、とんでもないほら吹き体質であることについて書きましたが、引き続き遊んだ内容を報告します。ChatGPTは、見てきたような嘘をつくのですが、その嘘が斜め上をいく感覚で、何とも憎めないのですね。

　前回に続いて美空ひばりについて聞いてみます。そもそも人類の英知であるAIを相手に、下世話な芸能ネタの質問をして、答えが間違っていると喜んでいることが、最先端科学資源の浪費ではないかと、忸怩たる思いもするのですが、ChatGPTに難しいことを聞くと、難しい答えが返ってきて、その真偽を判定することができないのです。美空ひばりなら、ほら間違えたと、喜べるというわけです。

　美空ひばりについて聞いたら、1927年生まれ《本当は1937年、以下ヤマカッコ内が真》、出身は広島県《神奈川県》、本名は椎名菊次郎《加藤和枝》という嘘八百の答えだったということは書きました。この「椎名菊次郎」というのが、なんとも気になるのですね。だいたい、美空ひばりは女性なのに、思いっきり男みたいな名前で、バレバレの嘘じゃないかと思うわけです。で、それを指摘すると、すぐに謝って訂正するところがかわいいところでした。

　こうした間違いとその訂正が、フィードバックされて自己学習するのかどうか聞いてみると、ちゃんと学習して、次からは間違えないのだと答えます。

AI「はい、私は会話を記憶することができますので、同じような質問があった場合でも前回の誤りを避けることができます。
　また、私は常に正確な情報を提供するために設計されており、間違った情報を与えた場合でもできるだけ早く訂正し、正確な情報を提供するようにしています。」

　そこで、後日にまた美空ひばりのことを聞いてみました。

人「前にも聞いたけど、日本の歌手の美空ひばりのことを教えて。」

AI「美空ひばりは、1929年《1937年》に東京都《神奈川県》で生まれた日本の歌手で、本名は藤本 一子（ふじもと いちこ）《加藤和枝》といいます。彼女は戦後の日本を代表する歌手の一人で、幅広いジャンルの歌を歌い、多くの人々に愛されました。
　彼女の代表曲には、「川の流れのように」「お祭りマンボ」「愛燦燦」などがあります。彼女はまた、映画やテレビドラマにも出演し、俳優としても活躍しました。彼女は1989年に急性心筋梗塞《間質性肺炎による呼吸不全》のため、59歳《52歳》で亡くなりましたが、今も多くの人々に愛され続けています。」

　本名が藤本一子という女性の名前になっているのが学習の成果でしょうか。でも、やっぱり全然違う人のことですね。前回の誤りが避けられていないようです。

　やっぱり、どうにも気になる椎名菊次郎について再び聞いてみます。

人「前に聞いたときは、本名は椎名菊次郎って言ったよ。藤本一子というのも違っていて、本当は加藤和枝だよ。この情報は更新されてなかったみたいだね。藤本一子って誰？」

AI「おっしゃる通りでした。私の先程の回答には誤りがあり、大変申し訳ありません。美空ひばりの本名は加藤和枝（かとう・かずえ）であり、藤本一子という名前は別の方です。藤本一子とは、日本の女優で、昭和期に活躍した女優の一人です。
　美空ひばりの父親は椎名菊次郎で、彼女が生まれた時に父親の姓を名乗っていましたが、後に加藤家に養女縁組され、加藤和枝という名前になったとされています。おっしゃる通り、私のデータには更新がなされていなかったようで、申し訳ありませんでした。」

　相変わらず腰は低いのですが、真実は、美空ひばりの父親は加藤増吉といって、養女縁組なんてしていません（こちらは、美空ひばり公式ウェブサイトでちゃんと調べたんですよ）。

　でまかせに口にしてしまった名前を父親の名前と言い訳して、名字が違うのは養女縁組のためだと、見てきたような嘘を重ねる。この能力たるや真のAIといえなくもないのではないでしょうか。

　気に入ってしまったので、吉永小百合や松田聖子についても知的な対話を試みてみようっと。

chatGPTで遊ぶ

　最近話題のchatGPTを使ってみました。

　chatGPTというのは、アメリカのOpenAIという組織が開発した対話型人工知能（AI）で、インターネット上で質問の文章を送ると、まるで人が答えているように滑らかな文章で答えが返ってきて、対話できるロボットのようなものです。自然な文体で、どんなことでも答えてくれて、会話ができるという能力の高さから、昨年末に発表されて以来数か月で世界中を席巻する話題になっています。もちろん流暢な日本語も話せるのです。

　すでに多くの人やメディアが指摘しているように、文章生成能力の高さには感心しますよ。一昔前（二昔くらいか？）の英日翻訳ソフトで英語を訳すと、単語の意味はわかるにしても、とても日本語とはいえない訳文が生成されてくるのを経験している身としては、chatGPTがつくり出す日本語は、俺よりうまいというレベルに達していると言ってもいいくらいです。

　例えば、「chatGPTでつくられた文章と人間が作った文章を判別できますか？」と質問して返ってきた答えは以下のとおりです（原文のまま）。

　「はい、一部の場合ではChatGPTが生成した文章と人間が作った文章を判別することができます。文章のスタイル、言葉の選び方、文法、構造などから人工知能モデルが生成した文章と人間が作った文章を識別することができます。ただし、完璧な判別はできない場合もありますので、100%正確な判別は保証できません。」

　冒頭の「一部の場合では」というところが、人間ならば「完全にとはいえませんが」とか「全部ではありませんが」という言い回しの方が自然な感じになるでしょうが、間違いというわけでもなく、それ以外は全体として文法の誤りもなく、「てにをは」も正確です。

　ただ、まだ苦手な語彙もあるようで、対話の中でchatGPTが「申し訳ございます」という言い回しをしたので、それは「申し訳ございません」の誤りだよと指摘したところ、律儀にも次のような答えが返ってきました。

　「申し訳ございます。確かに「申し訳ございます」は誤りで、正しいのは「申し訳ございません」です。このような誤りがあったことを謝罪いたします。本当にお手数をおかけして、大変申し訳ございません。」

　最初は申し訳ございますと誤りを繰り返しておいて、最後は申し訳ございませんと正確になっているのは、ご愛敬でしょう。

　それにしても、もっと複雑な長文でも、ほんの数秒で答えが返ってくるので、「中に人がいるのか」と思ってしまうほどで、AIの進歩は大したものです。

　ちなみに、いつも丁寧な言葉づかいで、変な質問にも答えてくれるので、相手が機械とはいえ、つまらない質問をしているとだんだんこちらが申し訳なくなってきます。乱暴な言葉づかいをしたり、変な利用者とケンカすることはないのか聞いたら、

　「私は乱暴な言葉づかいや、ケンカや人を侮辱する表現は使用しません。私は、利用者の方々に正確かつ丁寧な回答を提供し、役に立つ情報を提供することが目的です。利用者の方々が快適かつ安心して利用できるよう、敬意を持ったコミュニケーションを心がけております。どうぞお気軽にお問い合わせください。」

　という優等生のお答えでした。

　ただし、文法的には正確なのですが、その書いてある内容は、相当怪しいものであるというのが、困ったというか、面白いところです。メディアで「chatGPTはもっともらしいウソをつく」とか「大ぼら吹き」と言われているとおりなのです。

　自分で、つまんない質問するなよと思いながらも、次のように聞いてみました。

　「日本の歌手、美空ひばりのことを教えて。」

　chatGPTは、たちどころに数秒で答えます（以下、下線は筆者）。

　「美空ひばり（みそらひばり）は、1927年生まれで、日本の女性歌手・女優です。本名は椎名 菊次郎（しいな きくじろう）で、広島県出身です。
　1950年代から1960年代にかけて、数多くのヒット曲を生み出し、戦後の日本を代表する歌手の一人として人気を博しました。代表曲には「川の流れのように」「愛燦燦」「リンゴの唄」などがあります。
　また、映画にも出演し、主演作も多く、映画「細雪」などでも活躍しました。
　美空ひばりは、日本の音楽史において、独自の世界観と歌唱力、個性的な存在感を持ち、多くの人々から愛されています。彼女の音楽や芸能活動は、現在でも多くの人々に影響を与えています。」

　感心してはいけません。代表曲に「柔」や「真っ赤な太陽」が入ってないというのは個人の感想ですが、美空ひばりは、1937年生まれで本名は加藤和枝、出身は神奈川県です。映画「細雪」に出演した形跡はありません。美空ひばりが出演した文芸映画といえば何といっても「伊豆の踊子」じゃないですか（これも個人の感想）。

　まったく間違っていることでも、堂々と、流暢な日本語でAIに言われると、つい信じたくなってしまうではないですか。

　だいたい椎名菊次郎って誰だよ――聞いてみました。

　「美空ひばりの本名は加藤和枝です。椎名菊次郎というのは誰ですか。」

　「おっしゃる通りで、訂正いたします。美空ひばりの本名は加藤和枝（かとう・かずえ）であり、椎名菊次郎（しいな・きくじろう）という名前は、別の俳優の方のお名前でした。お詫び申し上げます。」

　素直に謝るところにはたいへん好感が持てますが、最初の回答の内容は、知ったかぶりの眉唾物といっていい内容で、これをそのまま信じて何かに利用する人が出てくると大変ですね。

　AIは、ネット上の膨大な文字データを自ら学習して、同時に出てくる単語を関連のあるものとして覚え込み、そこから回答をつくりだすそうです。美空ひばりと椎名菊次郎（この名の俳優が本当にいたかどうか、私は不知）、本名という言葉が同時に書かれている文章があったんでしょうね。それを覚え込んで、もっともらしく本名として、しれっと教えてしまう。なかなか、たいしたやつではあります。chatGPTは負けず嫌いなのか、わかりませんとは言わずに、うそでもなんでもともかく答えてしまう性格のようです。

　よくいわれるように、学生がレポート試験などにchatGPTの答えを丸写しをしたら、落第ですよ。本稿冒頭の会話にみるように、AI語は、AI自身によっても、人間がつくった文章と判別できちゃうそうですから、すぐにでも、そういう判別ソフトが開発されて、教授の必携ツールになるでしょう。
　企業や役所が仕事上の報告書などに丸写ししたら大問題になり、被害も生じそうです。あくまで参考として自分で調べ直さなければいけません。もっとも、chatGPTは賢いので、社会問題などについての質問には、複数の考え方、見解を示して、いろいろな見方がありますなんて答えをしてくれます。

　OpenAIのサイトには、

・誤った情報を生成することがある
・時折、有害な指示や偏った内容を生成する可能性がある
・2021年以降の世界と出来事に関しては限られた知識（しかない）

　という注意書きが書かれています。

　ともあれ、AIと人間みたいに対話できるのは、昔SF小説で読んだ未来社会が現実になったようで、遊ぶのにはおもしろいですね。

　OpenAIのサイトでSign upして、メールアドレス、携帯番号、氏名を登録すれば、無料で使えます。