生成AIの印象と衝撃
現在、私たちは、生成AI(人工知能)によるフェイク
ニュースの時代に突入している。
年初にも、総理大臣や有名キャスターが言っても
いないことを言っているような動画がネットに広がり、
問題となった。
生成AIによる動画生成の偽造技術は日進月歩で進化し、
人間の目では本物と見分けがつかないレベルにまで
達している。
フェイクを見破る技術も研究されているが、フェイクを
作る側と見破る側の間のいたちごっこ＝敵対的共通化が
続き、いずれフェイクかどうかを動画だけから見破る
ことは技術的に不可能になる。
そうなったら
「動画を見たらフェイクと思え」
という新常識以外に個人が防衛する術はない。
さらに、衝撃を受けたのは、完全に生成AIで作り上げ
られた報道番組の登場だ。
原稿からキャスター、セット、テロップまで、すべてが
AIによって生成される時代になった。
わずかなコストで高品質な報道番組が作られることは、
報道の世界にとって大きな転換点となる。
新聞と報道の役割
約20年前に「新聞の将来」という趣旨のコラムが
あった。
新聞の将来は、インターネットにより、新聞記者、
新聞社、新聞紙、販売店、新聞広告と、それぞれ
袂を分かち、未来を個別に考える状況になるという
趣旨だ。
そのときの予測を超えて、今や全マスコミにとって
報道の本質である
「情報を集める」
「記事にする」
「広める」
という機能が分割可能という前提での組織改革は
避けて通れなくなった。
ニュースを「広める」ためには、
大きな印刷工場、
トラック配送網、
地域ごとの新聞販売店、
多数の新聞配達員
と、大きなリソースが必要だったが、
その必要はインターネットにより激減。
また「集める」機能もインターネットで
低コスト化した。
個人のジャーナリストから、ベリング
キャットのようなネットベースのチーム
まで、多くの新しい形の調査報道が展開
されているのがその証しだ。
そして今、生成AIの登場によって、ニュース
を「記事にする」機能も低コスト化した。
生成AIが今後ますます進化すれば、単なる
言語翻訳だけでなく、背景情報や文化の
違いまで加味して、現地の生情報を臨時に
記事化してくれる。
解説もAIがユーザーのレベルに合わせ生成
してくれる。
今も一部の新聞がしているような
「バイアスのかかった報道」など、やりたがる
小グループは腐るほどいるから、何も大きな
組織でやる必要はない。
真実の保証
「情報を集める」
「記事にする」
「広める」のコストが下がった代わりに、
フェイクの時代に新しい機能がクローズ
アップされてきた。
それが「保証」だ。
新聞社は、コンテンツの真実性保証会社と
しての役割にシフトしてはどうだろうか？
2023年のG7広島AIプロセスで提案された
発信元保証のためのOP技術は、実現すると
したらコンテンツの真実性を保証するブロック
チェーンベースの電子証明書のようなものに
なるだろう。
この新たな枠組みで主役になるのが真実性の
保証会社だ。
真実を「保証」することは、生成AIによって
容易になった情報の「作成」に比べ、一種の
「悪魔の証明」であり、はるかにコストが
かかる。
この非対称性により、
新たな大きな組織＝専門の人員
を揃え、普段から相互検証し、人間関係まで
含めた情報源を駆使し、必要なら現地調査まで
する保証会社が必要となる。
政府がこの役割を担うことも考えられるが、
むしろ複数の保証会社が競争する未来の方が
望ましいだろう。
当然、正しくないコンテンツに保証すれば、
信用格付けを失う。
ニュースが多様な手段で流れ、真実の何倍ものを
フェイクにさらされる時代、朝の新聞ではなく、
常にコンテンツの電子証明書を確認するという
態度が、社会の責任ある構成員の守るべき習慣
になる。
社会機能とコスト
真実性保証のコストは、まず政府や企業など発信
したコンテンツを信じて欲しい側が負担する。
信じて欲しいがコストが払えない発信者も多くいる
だろうが、そういうコンテンツについては、公共性に
鑑みて保証会社が負担すれば、今の新聞社と同じ立ち
位置だ。
健全なインターネットのためにということで、公の
補助金もあってしかるべきだろう。
真実性の電子証明書はブロックチェーンで管理され、
チェックされるごとに個々の利用者にも少額課金
される。
それは新聞購読費と同じ。
生成AIのために、全てのニュースが疑わしくなって
しまう世界で「真実」を維持するためのコストは、
全ての関係者が少しずつ払うのが望ましい。
生成AIの時代とは
「真実はタダではなくなる」
時代なのだ。
