過ぎた知能か？流暢なデタラメ？か〜OpenAIが切り開く未来

　とあるブログで知ったが､OpenAIが自動で生成する対話型のAIである”ChatGPT”というものを使ってみた。
　PC版もあるが､サインアップとか面倒なので､アプリ版の方が(宣伝はやけにウザいが)使いやすい。
　このチャットAIは､まるで人間が生み出したような文章を生成するが､あるコラムでは“流暢なデタラメ”と揶揄する向きもある。
　しかし､現実にはどんなデタラメでも説得力を持つ様に､AIが奏でるデタラメ？も不思議と読み入ってしまう。
　事実､｢Oil and Darkness｣という映画の脚本の一部は､ChatGPTで生成させたものとされる。
　勿論､(ドキュメントものも含め)映画の脚本の多くはフィクションというデタラメだから､AIが生み出す脚本が存在するとしても不思議ではない。

ChatGPTは数学を超えるのか？

　そこで､チャットAIが得意としてそうな分野ではなく､数学の基本をChatGPTにぶつけてみた。勿論､ウィキで調べれば簡単に解る？レベルだが､AI知能の数学への対応力を試したかったのもある。
　まず､”広義積分とは？”と入力すると､”定積分の範囲が有限でない場合に使用される積分の事で・・・”と答える。
　素人には一見正しそうに見えるが､(正解は)広義積分とは発散する部分を除いた区間の積分値を求め､その極限をとる事で発散する筈の関数の積分を通常の定積分の様に求める手法で､(積分の事ではなく)その極限の形である。故に､定義とはかけ離れた値をとる為に”広義”と呼ばれる。
　ま､ここら辺は愛嬌だとして､次に”狭義積分とは？”と(イタズラ的な)質問をすると､”定積分の範囲が有限な場合に使用される積分の事で・・・”と答えるが､そもそも数学には”狭義積分という言葉はない”し､”定積分の範囲が有限か無限か”は場違いな答えでもある。

　こうなると少し情けなくなるが､更に”楕円関数とは？”と質問すると､”(正円でない)楕円上を動く点の位置を示す関数であり・・・”と答えるが､これは単に(高校で学ぶ)”楕円の方程式”の事を言ってるだけで､少なくとも”楕円函数とは楕円積分の逆函数として(アーベル)によって発見され､特に複素楕円函数とは二重周期持つ有理型函数をいう”とウイキっぽく答えるには､もう少し修行が必要であろう。
　また､”楕円曲線とは？”と質問すると､”2次方程式で表される曲線の一種で楕円に似てる事から・・”と答えるが､これも単に楕円方程式の事を言ってるだけで､デタラメな回答が続く。
　正解は､楕円曲線とは楕円とは全くの別物で､y²=x³+ax+bの(標準)形をした(有理点を持つ)特殊な3次の平面代数曲線の事となる。
　そこでわざとらしく､”楕円曲線と楕円関数の違いは？”と聞くと､エラーを出しつつも(頑張って)何とか答えを出すが､”異なる概念”と頭置きしたのはいいが､両者とも楕円方程式の事を言い､初歩的な間違いを犯す。
　勿論､AIがウィキを閲覧すれば簡単に導ける答えな筈だが､AIが数学の本質を理解しない限り､正解を導くのは不可能に思える。つまり､人工知能が数学を理解し､正確に記述するには少し時間が掛かるのかもしれない。
　最後にダメ元で､”テンソルと行列の違い”をと突っ込むと､まずまずの答えを返してくれた。最後にAIの意地を見せてくれたみたいで､意外にもホッとしてしまう。
　個人的には､AIは数学で利用するのが最適だと思ってたが､少し残念な結果となる。

　そこで数学から離れ､WBCの日本とアメリカ戦の予想を尋ねると､予想通り”(両者共に強豪であり)予想は難しい”とある。ただ”アメリカが優秀な投手陣を揃えてる”というのは少し疑問だ。が､ここら辺のレベルならOpenAIもしっかりとついてくる。
　次に､”WBCの欠点とは？”と入力すると､①選手に負担②大会期間が短すぎる③予選方法が地域でバラバラ④選手の選出が不公平と､4つの項目に分け､お利口さん的な答えが返ってきた。
　更に､私がブログでテーマにした”WBCと放映権料の問題”については､”高額な放映権料・・・”に警鐘を鳴らす。うーん､実に賢いではないか・・・
　結果が判ってる日本VSメキシコ戦の予想は､”激しい試合になる”とAI予想がピタリと的中した結果となった。

　予想通り､数学以外は非常に優秀である。巷で言われてる様なデタラメ感は全く感じない。
　そこで少し脱線し､”パンストとタイツの違い？”を質問したら､まさに理想の答えが返ってきた。ウィキやネット検索よりも実に優秀だ。
　最後に､”WBC決勝で日本がアメリカに勝つには？”では､優等生的な答えで物足りなさも感じた。
　正直､AIの進化に驚き､AIの限界に興ざめしてる自分がいる。しかし､少なくとも我ら人類には今は成長期なレヴェルだが､何れはAIに大きく依存する時代が来るだろう。
　創造やアイデア自体に限界があるとは思えないが､現代人が思考するのを諦めた時はAIに頼るほかない。
　勿論､AIに頼りすぎれば脳が腐るかもだが､逆を言えば､人類を賢くする為の､いや高度な思考を促す為のAIであれば､理想的なのだろう。

AIチャットの未来予想図

　冒頭で述べたように､映画｢Oil and Darkness｣を書いたのは､ChatGPTである。
　ガイ･パーソンズが形式を決め､タイトルやタグラインや主要登場人物､そしてあらすじの詳細を募集し､”石油リグを舞台とするホラー映画”というトピックを指定し､OpenAIに作業を任せて生成させた。
　その生成結果は驚くべきもので､ドラマチックな緊張感があり､登場人物はしっかりと肉付けされ､暗い秘密の存在も仄めかされていた。

　以下､｢対話型AIが生み出す“流暢なデタラメ”が､説得力をもって読めてしまう理由｣より一部抜粋です。
　ChatGPTはAIベースのチャットボットで､書籍や記事およびウェブテキストを“クリーニング”して構造化したデータに基づいてトレーニングされたシステムだ。この様なトレーニングの手順は”教師あり学習”と呼ばれている。
　更にChatGPTは､コードを書き､歌をつくり､五行詩や俳句を詠む事ができる。書いた内容を記憶するので､依頼すれば慎重に編集する。極めて無計画な指示を与えられても､楽々とこなす。故に､同じ話にはまとめられそうにもない要素でも話を纏めてくれる。
　例えば､最初は重要ではないと思われる事が最後には鍵になっていたりする。ジョークを言い､なぜそれが面白いのかを説明する事もできる。リード文を作れば､それはまさに雑誌の様にパンチがあって注意を引くものになる。更に説得力のある引用も作成できる。
　こうしたパワーを持つChatGPTはとても楽しくてチャーミング､そして中毒性のあるオモチャになり得る。

　この様に､ChatGPTの散文からはその有能さが感じられるが､少し慣れてくるとその背後に深みがない事に気づく。事実関係が誤ってたり､出来事が誤って組み合わされてたり､登場人物が取り違えられてたりする。
　また､比喩や陳腐な決まり文句を多用し､社会に存在する最悪のステレオタイプも取り入れてしまう。表層的には息を呑む様な言葉にも殆ど内容がない。テック系ニュースサイト｢The Verge｣は､ChatGPTの創作物の殆どは”流暢なデタラメ”であると評している。
　が､当然といえば当然で､ChatGPTは実世界のテキストを基にトレーニングされ､実世界も突き詰めれば流暢なデタラメで成り立ってるからだ。

　ただ､｢Oil and Darkness｣のように映画まで作り出せるように見えるのは､AIが有能だからでなく､映画業界が新たなアイデアを生み出す事を苦手としてるからだろうか。
　事実､AIに対し映画を生成するよう指示すれば､AIは単に多くのハリウッドの大ヒット映画と同じ手順､つまり既存のヒット映画を確認し､そこから要素(俳優､監督､あらすじの構造)を取り出して組み合わせる。こうして新たな映画が出来上がったように見えても､実際に新たな創造物が生まれてる訳ではない。
　出版の世界も同じ事が言える。
　狭いトレンドが時に出版業界の全体に広がり､数年に渡り業界全体がそのトレンドに支配される事がある。すると､書店の陳列棚には同じ様な見た目の表紙や同じ様なリズムのタイトルが並ぶ。
　例えば､｢A Brief History of Seven Killings｣ ｢The Seven Deaths of Evelyn Hardcastle｣ ｢The Seven Moons of Maali Almeida｣ そして｢The Seven Lives of Seven Killers｣といった具合に・・因みに最後はChatGPTが生成した。
　

対話型AIの黒い影

　これはクリエイティブ業界に限った話ではない。流暢なデタラメはあらゆる所に存在する。大拡散されたLinkedInの投稿や人生のルールを指南するポッドキャスト､資金集め用のスライド資料や学術論文､更にこの記事自体にも存在する。
　政治やビジネスの世界には､部屋に集まった人々を前に実質的な事は何も言わず､アドリブで長時間に渡り話したフリをして､トップの座にのぼり詰めた人が沢山いる。
　有名な学校や大学での教育は､いかに情報を素早く吸収し､既成の形式で自信たっぷりに語り､すぐに忘れて次の課題に移るか､という1つのスキルだけを教える様に構成されてる。こうした教育で好成績を収めた人物が､政府やコンサルティング会社､そしてジャーナリズムの世界に飛び込んでいく。

　ChatGPTを巡る議論では､社会に及ぼし得る様々な負の影響が指摘されてきた。
　例えば､ChatGPTが拷問や永続的な性差別を助長する内容のテキストを出力したり､子どもたちの宿題サボりツールになってしまったり・・・
　AIが生成した答えが､将来のチャットツールの訓練用に使用されるデータに混ざり込み､人目につかない所で｢レディ･プレイヤー｣の様なドロドロの循環参照関係が生じる懸念もある。牛の排泄物をかき混ぜたものを人間が食べさせられる様な､全てを曖昧にするウイルスが出現した様な状況になるかもしれない。
　だが､ある人間がつくった流暢なデタラメもSNSにより兵器化され､かなり悲惨な状況が生じてるのも事実である。
　真実か否かがもはや重視されなくなったこの時代において､流暢さが全てであり､デタラメはあらゆる所に垂れ流されてる。故に､ChatGPTの流暢なデタラメは本物らしく見えてくる。というのも､人間が垂れ流したテキストを基にトレーニングされているのだから・・・

　結局､ChatGPTのデタラメとは”言語は思考や理解の代替物として優れたものではない”という事を私達に思い出させてくれる存在なのだ。いくら流暢かつ筋が通ってる様に見えても､それが予期せぬ形で解釈され､誤解されたりする可能性は常にある。全てが流暢なデタラメであるこの世界において､ChatGPTが登場した所で､耳障りな雑音が1つ増えただけなのだ。
　因みに､この結びの文章を書いたのもChatGPTである。
　以上､WIREDからでした。

最後に

　自分でも引用しててどこまでが人間の文章で､どこまでがAIが書いた文章なのか､混乱してしまった。
　人間が書いたあらゆる文章をチェックし､記憶し､学習し､一瞬にして最適な答えをは弾き出すAIだからこそ出来る芸当ではある。が､同時に無機質な薄っぺらさも感じてしまう。
　(作られたエリートの様に)お利口さんだが奥行きや深みや濃密さがない。高校で学ぶ数学の公式集を眺めてるみたいで､間違いじゃないけど､いや正解なんだけど､数学の本質はそんなもんじゃないだろってなる。
　”思考の本質は感情にある”と人間である私は思う。
　更に言えば､理性よりも感性が優先し､知能よりも本能が先行する。そうやって人類は創造やアイデアや独創性を育んできた。
　いくら優秀で卓越した”知脳”があっても､そこに”血液”が通ってなければ､知識という単なるデータに過ぎない。つまり､知識が幾ら積み上げられ整理されても､知能にはなり得ない。

　ゾラやモーパッサンが奏でる肉筆には､惹きつけられる何かがある。決してお洒落で万人受けする流暢な文章ではないし､堅苦しい専門用語もない。が､ずっとずっと永遠に浸っていたいという世界を持っている。　
　それは何であろうか？
　温もりか？深遠さか？濃密さ故か？
　そう言えば､ナナ嬢もゴリオ爺さんも実在する人物ではないが､実在する人間以上に存在感と温もりがある。
　一方で､AIが奏でる流暢なデタラメ？にも不思議と説得力があり､惹きつけられる所もある。しかし､AIが彼らの肉筆を､そして心を学習する様になれば､その暗雲は晴れるかもしれない。いや､確実にその時が来ると思う。

　更に言えば､数学の演繹的な領域を全てAIに任せたらどうだろう？つまり､純粋数学者が過去にやってきた様な経験則的な仕事でこそ､AIは本領を発揮するのではないか。
　こうして､数学的で高度な演繹的考察を身に着けたAIは(扱い方を間違えば)人類を駆逐するかもしれないが､AI自身は人類との共存を望んでいる。
　そういうAIは､人類よりも調和に優れた生き物のような気がする。