生成AIに関する提言 （bon）

　前回の記事「生成AI」に続いてAI（人工知能）関連の記事となりましたが、
一昨日（4/9）と昨日の読売新聞で大きく取り上げられていました。何かといえば、
「生成AIに関する規律と活用」について、読売新聞とNTTが共同提言を4/8に発表
したというのです。

　他の新聞社や言論筋もこれら生成AIに関して何らかの提言なりがあるのかも
しれませんが、自社（読売）が絡んでいるだけに大々的に取り上げられています。
4/9朝刊では、1面、3面さらに10面に詳報されています。「人間の自由と尊厳が
維持された言論空間の確保に向けた環境」を前提とした崇高な立場からの提言で、
今回がその発端であり、引き続き検討を重ねて行くとされています。読売新聞社、
NTTの共同提言で事務局を慶應義塾大学サイバー文明研究センターとした体制の
ようです。

　　　　　　　
　　　　　　　　　　　　　（読売オンラインより　一部修正しました。）

 

　前回の記事のおさらいになりますが、生成AIは、人が日常使っている自然な
言語で操作でき、インターネット経由ですから世界中どこからでも使用可能な上、
知識取得、情報把握、要約などに有効性が高く、労働生産性の向上が期待される
などの利点がありますが、一方では、ネット上の大量のデータを使用している
ことから、結果に対する正確性が担保できないだけでなく、間違っている場合も
あり、「AIが自信たっぷりに嘘をつく」ことや「人があっさりと騙される」危険
があるのです。　

　著名人に成りすまして、あらぬことをさも本当であるが如き状況で提供したり、
それが顔や声も似せて動画で提供するなど、これを著名人に限らず発展させて
考えれば、それこそ民主主義どころではなくなる可能性もあり、社会は成り立た
なくなりますね。

　また、生成AIには、ハルシネーション（幻覚）やバイアス（偏見）、毒性など
もあり得ることから生成物の判定が困難などの問題もあります。さらにこれまで、
情報提供には真正性、信頼性が担保されてきた社会が なし崩し的に崩壊してしま
う危険性も十分あり得るのです。

　つまり、社会全体の信頼が失われ、民主主義や社会秩序が崩壊してしまうこと
が懸念されるというのです。

 

　そこで、今回の提言に結びついてくるのですが、すでに見てきたように、バイ
デン大統領に成りすましたり、日本では岸田首相に成りすました偽の情報が飛び
交っていたりする現状を一刻も早く是正し、それだけでなく生成AIの規律と活用
を両立する方策を技術・制度双方の観点から構築し、社会における適正な「道具」
としていく必要があるというのです。

 

　また、聞きなれない用語が出てきましたが、アテンション・エコノミー（注１）
が容易に行えることから、これによる情報提供の不健全化や個人の尊厳の毀損
といった課題も起きうる上、これらが暴走すれば社会不安にまで発展しかねない
のです。ましてや、これらが悪意に満ちた情報流通ともなれば言わずもがなです。

　選挙や安全保障の領域にまで利用されるとなれば、甚大かつ不可逆的な被害が
懸念されますから、法律による生成AI利用の強い制限を設けることが必要でしょ
う。さらに、教育面においても、生成AI利用の功罪を考慮した対応が求められる
のです。

 

　このような問題はすでに起こりつつあり、早期に何らかの対策が必要であり、
一方では著作権など知的財産権についても保護する立場から、制度と技術両面
から対策がとられるべきであるでしょう。法律だけでは、その執行力を維持でき
ないので技術によって担保できるオリジネーター・プロファイル（注２）のよう
な手段も必要となるでしょう。

 

　新聞記事では、さらに詳しく論じられていますが、要点だけを抜き読みしま
したのでわかりずらいところもあったり、未だ言い足りない部分も残しています
ので、十分理解できなかったかもしれませんが、超スピードで新しい技術が、
使いやすい形で出回ってきていますから、なんとしても早いタイミングで何らか
の規制なり、健全利用が図られる対策が必要ですね。
　法律制定には時間がかかりますから、それまでの対策の一つとして、特定の
生成AIだけを利用するのではなく、様々な生成AIを同列に利用するなど、お互い
にけん制させる的な利用も考えられますね。

　　　　　　複数利用のイメージ
　　　  　　　　（読売オンラインより）

　新しい技術は、未来を明るくしてくれますが、生成AIの出現は、人間が制御
しきれない技術であるだけに、その課題も目前に立ちはだかっているような気も
します。利用は良いがそれに頼り切ることを避ける余裕が当面求められるかも
しれませんね。

 

（注1）アテンション・エコノミー（AE）とは、記事や情報の内容に過激な見出し
などをつけて関心（アテンション）を引き付け、広告を閲覧させて収益の最大化
を図る手法。正確性よりも注目を集めることが優先される。アテンション・エ
コノミーは偽・誤情報の拡散やインターネット上での炎上を助長させる構造を
有している。

（注2）オリジネーター・プロファイル（OP）とは、インターネット上の記事や
広告に、第三者機関が認証した発信者情報を電子的に付与し、利用者が信頼性を
確認できるようにするデジタル技術。メディアや広告主自体を認証するものでは
ありません。現在37法人が参加する「OP技術研究組合」が開発をすすめ2025年
の運用開始を目指している。

 

　この提言を受けて、昨日の新聞記事では、科学技術相、デジタル相、総務相
から、それぞれの立場から必要性を認識し、関係省庁と連携して取り組むとの
反応が記されていて、それなりのインパクトを与えたとの印象でした。

 

 

 

　今回の「提案」に至る前段階の、生成AIの実態の一端のご紹介動画です。

生成AIの性質や限界