偽・誤情報の現状と
これから求められる対策
総務省 プラットフォームサービスに関する研究会
© Yamaguchi. 2023 All Rights Reserved.
2023.03
山口 真一 博士（経済学）
国際大学GLOCOM准教授
syamaguchi@glocom.ac.jp
資料２
2
国際大学グローバル・コミュニケーション・センター 准教授 • 東京大学 客員連携研究員
• 日本リスクコミュニケーション協会 理事
• 株式会社エコノミクスデザイン シニアエコノミスト
• 日本経済新聞Think!エキスパート
• シエンプレ株式会社 顧問
• グリー株式会社 アドバイザリーボード
• 株式会社メルカリ アドバイザリーボード
• Polimill株式会社 アドバイザー
• クリエイターエコノミー協会 アドバイザー
• 科学技術・学術政策研究所（NISTEP） 専門調査員
• 早稲田大学ビジネススクール 兼任講師
• 中央大学国際情報学部 兼任講師
• 東洋英和女学院大学国際社会学部 兼任講師
• 総務省・厚労省の複数の有識者会議 構成員・座長
1986年生まれ。博士（経済学・慶應義塾大学）。 2020年より現職。専門は計量
経済学、ネットメディア論、情報経済論等。
NHKや日本経済新聞等のメディアに多数出演・掲載。KDDI Foundation
Award、組織学会高宮賞、情報通信学会論文賞（2回）、電気通信普及財団賞を
受賞。主な著作に『ソーシャルメディア解体全書』（勁草書房）、『正義を振り
かざす「極端な人」の正体』（光文社）、『なぜ、それは儲かるのか』（草思
社）等がある。
他に、厚生労働省や総務省の各種委員会の座長や構成員も務める。
偽・誤情報の現状と将来 1
偽・誤情報問題の拡大
• 2016年は「偽・誤情報元年」といわれる。2016年の米国大統領選挙では多くの偽・誤情報が拡散され、選挙前3か月間で、
トランプ氏に有利な偽・誤情報は3000万回、クリントン氏に有利な偽・誤情報は760万回シェアされた。
• その後も仏大統領選挙やロシアのウクライナ侵攻など、様々な場面で偽・誤情報が拡散された。例えばウクライナ侵攻で
は、ゼレンスキー大統領が降伏を呼び掛ける偽動画がSNSで拡散された。また、ロシアはハッシュタグなどを駆使して大量
の世論誘導を行っており、アフリカ、アジア、中南米において新ロシアの偽・誤情報が広範囲に拡散されたと指摘されてい
る。スパムも活用された。
• 政治にかかわるものだけでなく、最近では新型コロナウイルスのパンデミックやコロナワクチンに関連する偽・誤情報が広
く拡散され、WHOがInfodemicと警鐘を鳴らした。
• 世界では偽・誤情報がメッセージアプリで拡散された結果殺人事件が起こるといったこともあり、生活・経済・政治等あら
ゆる観点から、偽・誤情報対策が求められている。
ロシアによる世論誘導に関する記事
「5G電波がコロナウイルスをまき散らしている」という偽・誤情報を信じて、基地局を破壊する活動まで行われた。
日本における偽・誤情報の状況
• 日本でも偽・誤情報問題が拡大している。例えば、2018年の沖縄知事選では、多くの偽・誤情報が拡散されたことが指摘さ
れている。選挙時に限らず、政治に関する偽・誤情報は日常的に広まっている。
• 政治に関するものだけでなく、多様な分野で偽・誤情報が存在するが、とりわけ災害やパンデミックの時には多くの偽・誤
情報が拡散した。
• 2022年9月に発生した静岡県の水害をめぐっては、AIを使って作成した画像を「ドローンで撮影された静岡県の水害」とし
てTwitterに投稿したユーザがいた。既にいくつかのワードを入力するだけで簡単にフェイク画像を誰でも作れるようになっ
ており、ディープフェイク技術*の民主化が起こっている。
* ディープフェイクのもともとの意味は、機械学習などを使って2つの写真や動画の一部を入れ替える技術のことを指す。しかし昨今ではAIを使って作成した偽画像・偽動画全般を指すことが多いた
め、本稿でもそのような言葉として取り扱う。
静岡県の水害に関連した実際の投稿
実際に3つの単語（Shizuoka disaster color）を入れて作成したもの。一見すると本当の災害のような写真がすぐ
に作成される。
多くの人が偽・誤情報を誤っていると気づけない
• 実際のコロナワクチンと政治関連の偽・誤情報12件を使って調査した結果、40.4%の人が1つ以上に接触していた。
• コロナワクチン関連の偽・誤情報に接触して、その情報が誤っていることに気づいている人は平均して43.4%にとどまっ
た。さらに政治関連では、それが20.3%であった。コロナワクチン関連の偽・誤情報については、マスメディアが積極的に
正しい情報を発信したことが、このような違いを生んだと考えられる。
• 年代別に判断結果を見ると、50代や60代といった中高年の方が、若い世代よりも誤っていると気づきにくい傾向が見られた
（とりわけ政治関連の偽・誤情報において）。偽・誤情報は若者だけの問題ではないといえる。
偽・誤情報真偽判断結果（コロナワクチン関連/年代別） 偽・誤情報真偽判断結果（政治関連/年代別）
山口ほか（2022）「Innovation Nippon 2021 わが国における偽・誤情報の実態の把握と社会的対処の検討」 https://www.glocom.ac.jp/activities/project/7759
拡散するのは偽・誤情報を信じている人、リテラシーの低い人
• 偽・誤情報の拡散行動を分析したところ、偽・誤情報を信じている人は、誤っていると気づいている人に比べて非常に拡散
しやすい傾向にあることが分かった。例えばコロナワクチン関連の偽・誤情報であれば、20.7ポイントも拡散確率が高い。
• また、メディアリテラシーや情報リテラシーが低い人ほど拡散することも明らかになった。例えば、メディアリテラシーが最も高い人と最も低い人で比較すると、コロナワクチン関連の偽・誤情報を拡散する確率が27.1%も異なる。
• 偽・誤情報は、事実のニュースよりも約6倍も速く拡散することが明らかになっている。
• 人々が接している情報空間というのは、偽・誤情報を信じている人や、メディアリテラシー・情報リテラシーが低い人が拡
散しやすい空間であるといえる。
拡散確率に与える影響（回帰分析結果から抜粋）
※政治関連の偽・誤情報の分析でも同じ傾向が見られた。
偽・誤情報は選挙結果を左右する可能性がある
• 2つの実際の政治関連の偽・誤情報を使って実証実験をした結果、偽・誤情報を見て支持を下げる人は少なくなかった。
• 特に弱い支持をしていた人ほど偽・誤情報によって支持を下げやすい傾向が見られた。弱い支持の人というのは人数でいう
と多い人たちであり、偽・誤情報は選挙結果に影響を与えうる。
山口真一（2022）『ソーシャルメディア解体全書』、勁草書房
偽情報の生まれる背景
• 偽情報が生み出される背景には、①経済的理由、②政治的理由、の主に2つがある。
• 経済的理由については、アテンション・エコノミー*が広まる中で、広告収入目当てに偽情報を流す事例が後を絶たない。
例えば2016年の米国大統領選挙では、マケドニア共和国の学生が大量の偽・誤情報を作成しており、1日当たり2,000$以上を稼いでいるようなウェブサイトもあった。また日本でも、ニュースサイトを装って排外主義的な偽情報を流していたウェブサイトがあり、作成者は収入目的だったと取材に答えている。
• 政治的理由については、2016年の米国大統領選挙や沖縄県知事選挙、ロシアのウクライナ侵攻など、様々な場面において政治的背景から偽・誤情報が作られている。
* 「関心経済」のことで、情報が指数関数的に増加してとても人々が読み切ることができない時代において、情報の質よりも人々の関心をいかに集めるかが重視され、その関心や注目の獲得が経済
的価値を持って交換財になるということを指す。システム1（速い思考）を刺激することが収入につながる。
偽・誤情報問題は規模が飛躍的に大きくなる
• アテンション・エコノミー問題の解決の道筋は見えておらず、偽・誤情報を生産するインセンティブがある。
• 社会が分断する中で、偽・誤情報を使った政治的な介入も増加する。ロシアのウクライナ侵攻においても情報戦が繰り広げられているように、今後ますます情報戦略の重要性は高まる。
• 高度なAI技術が民主化していく中で、以下のようなことが引き起こされる。これにより、人々はますます正確な情報を見つけるのが困難となる。
• これらに対してプラットフォーム事業者も対策を打つと考えられるが、飛躍的な大規模化に対して完璧に対応するのは難しいと予想される。
• さらに、「裁判の証拠画像・映像の捏造」や「ディープフェイクを使った詐欺」等が横行し、SNS等のインターネットサー
ビスの枠を超えて社会全体が混乱する可能性がある。既存のシステムでは対応できないことも多い。
既にAIが生成した絵画が絵画コンテストで優勝している
① AIを使って大量に生産した偽・誤情報をbotで投稿・拡散する人や組織が増加する。
② ディープフェイク技術による偽動画・画像で情報環境が溢れる。
ディープフェイク作成の安価なサブスクが影響力工作に使われている
各国の対策動向 2
米国
• 偽・誤情報関連では、教育の重要性が強調されている。2021年、米国保健社会福祉省により、健康に関する偽・誤情報に関する報告書、及び、対策を行うためのページが公開された。同ページでは、偽・誤情報に対抗するためのツールキットやスライドなど、一般の方が使えるツールが提供されている。
• 2022年4月には、YouTubeに、米国外科長官による「健康の偽・誤情報に対処するためのコミュニティ・ツールキットを利用する10の理由」が公開された。
• 2022年3月には、偽・誤情報に対する教育法（Educating Against Misinformation and Disinformation Act）が議会に提出さ
れている。偽・誤情報に対してアメリカ人を教育し保護するための法案である。
• 2021年のIOGAN法では、敵対的生成ネットワークによって出力されたものを含む操作された、または合成されたメディアに
関する研究を支援することを、全米科学財団(NSF)と米国国立標準技術研究所(NIST)に命じた。
• メディア情報リテラシーを支援し、偽・誤情報に対処するための委員会を設立する。委員会の任務は以下の通り。
• 偽・誤情報がどのように広まっているかを調査し、報告する。
• メディア情報リテラシーを促進するための国家戦略を策定する。
• 偽・誤情報への国民の耐性を向上させるための助成金制度を創設する。
• メディア情報リテラシーのレベルに関する調査を実施し、その改善方法について議会に報告する。
• 制定から3年後に、委員会の効果について教育省による評価を義務付ける。
偽・誤情報に対する教育法の要点欧州
• 2022年6月16日、2022年版「偽情報に関する実践規範」が署名、発表された。この規範は2018年にも改定がなされている
が、今回は2021年5月に公開された欧州委員会のガイダンスを達成するために、規範を強化する形で改定された。
• 署名は、2018年の改定時に署名をした34名によって署名された。この中には、Google、Meta、Microsoft、Twitter、
TikTokなどが含まれる。（GAFAではAppleとAmazonは含まれていない）。
• 規範についての実施状況のモニタリングが規定された。まず、2023年初頭までに、加盟国は欧州委員会に対し、規範の実施
状況に関する最初の基本報告書を提出。その後、デジタルサービス法（DSA）に規定される超大規模オンラインプラット
フォームは6カ月ごと、その他は1年ごとに報告することが規定された。
行動規範には44のコミットメントと128の具体的な措置が含まれている。
• デマネタイゼーション：偽情報の提供者に対する金銭的インセンティブの削減。
• 偽情報の流布を阻止すること。
• 政治的広告の透明性を確保すること。
• 利用者に力を与えること。
• ファクトチェッカーとの協力を強化すること。
• 研究者にデータへのアクセスを向上させること。
行動規範の例
アジア諸国
• アジア諸国では、偽・誤情報への法規制を導入する傾向にある。
• フィリピン：2022年8月、フェイクニュースの作成と流布の犯罪化を推進する法案（下院法案第2971号）が提出された。違
反した場合は、6年～12年の懲役、もしくは20万ペソ以上の罰金とする法案である。
• シンガポール：当局がインターネット上のプラットフォームや個人的なチャットグループを監視できるようにするフェイク
ニュース禁止法を承認。偽・誤情報を拡散するためにボットや偽アカウントを使用した場合、最大100万シンガポールドル（約8100万円）の罰金と、最大10年の禁錮刑が科される。ただし懸念点として、市民の自由に対する深刻な脅威になる可能性と、暗号化されたアプリの情報をどのように監視するのかといったことが挙げられている。
• 韓国：与党は「言論仲裁法」の改正案を出したが、野党からの反発にあい成立していない。法案では、報道機関による「故意」あるいは「重い過失」による虚偽の報道等によって不利益を被った被害者は、メディアに対して最大で被害額の５倍の賠償を訴訟で請求できるとされている。
• ベトナム：SNS上で偽・誤情報を流布させると罰金刑となる。例えば、新型コロナウイルスの感染が始まった2020年2月の報道では、2月2日の時点で9名がSNS上に感染者隔離状況などの誤った情報を投稿または拡散したとして、それぞれ1,000万～1,250万ドン（約4万7,000～約5万8,750円、1ドン＝約0.0047円）の罰金刑となった。
• 台湾：2019年には、偽・誤情報の拡散を防ぐために、災害防救法、農産品市場交易法、糧食管理法、食品安全衛生管理法、伝染病防治法、広播電視法、核子事故緊急応変法の7つの修正草案を閣議決定している。例えば、災害関連の偽・誤情報を広め公共または個人に損害を与えた場合、最大で無期懲役がありうる。
わが国で求められる対策 3
政府として何ができるか①：法律の功罪
• 法律は時代に合ったものにする必要があり、実際、調査では法規制を望む声は多い。一方で、安易な法規制は表現の自由にネガティブな影響を与える。
• 最初は限定的な運用でポジティブな効果を生み出していても、やがて拡大解釈されてネガティブな効果を生み出すという、slippery slopeの問題がある。誹謗中傷や偽・誤情報といった線引きの難しいものでは特に起こりやすい。実際、マレーシアやロシアなど、偽・誤情報対策を強化する法律で、実際には政権に反対する報道や政治家を取り締まるのに使われている例が少なくない。
山口真一（2022）『ソーシャルメディア解体全書』、勁草書房
政府として何ができるか②：透明性の確保など
• 重要なのは目指すべき社会の姿を提示したうえで、適切な透明性・アカウンタビリティの確保を促すことである。
ただし、実は人々は透明性に大きな関心を寄せているわけではない。
重要なのは、得られた結果からエビデンスベースで有効な対策を検討していくことである（効果的な施策の横展開など）。
• 外資系のプラットフォーム事業者が多い中で、ユーザに日本語で対応できる体制が整っていることも大切。
• さらに、ディープフェイクやメタバースなど、技術の発展に伴って問題が拡大していくことが予想される。特にディープフェイクは人間が判断するのは困難になるため、事業者と連携して継続的な把握を行うことが重要である。犯罪行為に厳正に法的対処をしていくことで、愉快犯なども抑止する。技術の進歩に合わせた法改正をすることも考えられる。
透明性に対する人々のニーズ
一般ユーザは必ずしもこれらの情報を知りたいと思っているわけではない。透明性を確保することが意味を持つのは、エビデンスベースで施策に反映した時である。
Google Japanと実施している「Innovation Nippon 2022」の研究成果（未公開）より作成。
ディープフェイク規制の動き
事業者に期待されること①：機能
• プラットフォーム事業者は、様々な違法有害情報が飛び交う場を提供している事業者として、改善に向けて常に努力していくことや、透明性の確保が求められる。
• 例えば、偽・誤情報については、ラベル付けや読まずにシェアしようとすると警告を出すといった取り組みが、一部のサービスで見られる。
また、誹謗中傷と思われる内容を投稿しようとした際に、AIがそれを分析し、本当に投稿するかアラートを出す機能を実装しているサービスもある。その他、青少年保護のために見知らぬ人とのDMの禁止、コメント投稿にあたって電話番号登録を義務化するするなど、各社様々な取り組みをしている。
これらの取り組みの効果が明らかになると共に、効果的なものが積極的に各サービスで実装されるのが望ましい。
• その他、偽・誤情報の流通経路に連携しているファクトチェック組織のファクトチェック結果を優先的に表示するなど、新しい対策を常に実装していくことが求められる。
さらに、技術の発展に
伴う新たな問題に対して、積極的な対策も必要である（ディープ
フェイク検出とアラートなど）。
山口真一. (2019). フェイクニュースの正体
と情報社会の未来.ダイヤモンドハーバード
ビジネスレビュー, 2019(1). 64-73.
事業者に期待されること②：偽・誤情報インセンティブの除去
• アテンション・エコノミーの中で、経済的理由から偽・誤情報を生産する活動が後を絶たない。情報社会においては、媒体単位ではなく記事単位でメディアが消費される。その結果、質を高めて媒体の信頼度をあげるよりも、センセーショナルな見出しを付けてSNSでシェアされやすい記事にしたり、検索サービス対策をして記事が検索の上位に来るように工夫したりしたほうが短期的に儲かる。
• それらを抑止するような取り組みが必要である。
日本語圏においても、プラットフォーム事業者と連携し、偽・誤情報を取り扱っているウェブサイトに広告収入が流れないような仕組みを構築していくことが肝要だ。
ファクトチェックの推進
• ファクトチェックには情報空間における発信主体を塗り替える力がある。バックファイア効果もあるが、中庸な意見の人がインターネットで情報収集する際に、正確な情報にたどり着く可能性を高める。
• 例えば、菅首相がワクチンを打ったと報道された3月16日に、「打ったワクチンは偽物」という真偽不明情報を肯定するツイートは95%だった。それに対し、ファクトチェック記事の配信後は99.79%がファクトチェック結果を広めようとするものだった。
他の事例でも同様の結果が見られている。
• 人々は特にマスメディアにファクトチェックを期待している。実際、世界中でマスメディアがファクトチェックに乗り出し
ている。
「菅首相が打ったワクチンは偽物」に関するツイート数
山口真一（2022）『ソーシャルメディア解体全書』、勁草書房
真偽を確かめられると便利な媒体 20代 30代 40代 50代 60代 全年代
SNSでのインフルエンサーの投稿 9.0% 5.8% 4.4% 2.5% 1.9% 4.4%
SNSから読めるネットニュース 22.4% 20.3% 13.1% 9.2% 6.7% 13.6%
メッセージアプリのお知らせ・通知 8.4% 6.5% 4.5% 5.3% 4.2% 5.6%
メッセージアプリから読めるネットニュース 9.9% 8.3% 7.9% 7.4% 7.0% 8.0%
SNSとメッセージアプリから読めるもの以外のネットニュース 12.1% 11.8% 15.4% 16.6% 13.8% 14.2%
動画共有サービスでのインフルエンサーの投稿 6.6% 5.3% 3.0% 1.9% 3.0% 3.7%
官公庁・自治体のウェブサイト 27.3% 27.4% 33.6% 33.2% 39.0% 32.6%
官公庁・自治体のSNSアカウント・メッセージアプリアカウント 15.4% 12.5% 12.9% 11.7% 13.3% 13.0%
テレビ・新聞などのマスメディアでの報道 34.5% 30.8% 37.4% 48.9% 56.0% 42.3%
書籍 5.5% 4.6% 6.3% 4.4% 6.5% 5.5%
その他 2.8% 3.2% 4.0% 3.9% 4.4% 3.7%
特に何かで確かめたいと思わない 32.4% 36.9% 33.6% 28.7% 21.0% 30.2%
n=5569
コロナワクチン関連の情報の真偽を確かめられると便利な媒体（年代別）
山口ほか（2022）「Innovation Nippon 2021 わが国における偽・誤情報の実態の把握と
社会的対処の検討」 https://www.glocom.ac.jp/activities/project/7759
石川徳幸. (2018). デジタル時代の新聞産業と
ジャーナリズム. 情報の科学と技術, 68(9), 434-439.
ファクトチェックの課題
• IFCN加盟団体102団体の内、日本の団体は0となっており、日本のファクトチェックは遅れて
いる。
偽・誤情報対策が国際的な動きから取り残された「ガラパゴス化する」ということが指摘されている。
• 進まない背景に、人とカネの問題があり、ファクトチェック組織の事業継続が厳しいことがあ
る。
一方、諸外国では、大学が間に挟まって、財団やプラットフォーム事業者がコストを負担し、各メディアやファクトチェック組織がファクトチェックをするような仕組みもある。
ステークホルダー間の連携が何よりも重要である。
藤代裕之 (2019). フェイクニュース検証記事の制作過程2018年沖縄県知事選挙における沖縄タ
イムスを事例として. 社会情報学. 8(2), 143-157.
韓国のファクトチェックサイト
ファクトチェック組織の中立性の担保と優先順位付け
• 世界中で、ファクトチェック組織自体の中立性をどのように担保するのかが大きな課題となっている。事業の継続にあたり、党派性の強い組織から支援を受け、その結果として偏るということも考えられる。
• ファクトチェック組織の中立性を担保するために、有識者からなる第三者機関を設置し、毎年ファクトチェック組織のアウトプットをレビューするといった方式が考えられる。
活動実態や偏りをレビューし、それを公表することで、人々は各ファクトチェック組織がどのような状況なのかを知ったうえでファクトチェックを見ることができる。連携する企業もその情報を参考にできる。
• また、限られたリソースで効果を得るために、ファクトチェックの優先順位付けも重要である。
各分野における偽・誤情報の社会的影響度とファクトチェック時間的優先度
有識者へのインタビュー結果から、「時間的優先度」「社会的影響度」の2軸で調査し、散布図でまとめた。
山口真一・谷原吏（2022）「わが国における偽・誤情報の実態の把握と社会的対処の検討 ―政治・ コロナワクチン等の偽・誤情報の実証分析―」
求められるメディア情報リテラシー教育の拡充
• 情報の発信・受信双方に関する教育を、老若男女に実施していくことが求められる。情報が爆発し、誰もが発信者になる現代においては、メディア情報リテラシーというものは、国語や数学のように全ての人に欠かせないものである。
実際、リテ
ラシーが偽・誤情報の判断や拡散行動に大きく影響していることが研究からわかっている。メディア情報リテラシーを高め
ることは、教育を受けた人が生きるうえで欠かせないだけでなく、社会全体にとってもこのうえなく必要なことといえる。
分かりやすく、体系だった教育啓発プログラムを開発し、広げていくことが重要である。
• 米国では、米国保健社会福祉省により、健康の誤報に関する報告書、及び、対策を行うためのページが公開された。また、
「誤報と偽情報に対する教育法」も提出された。
• 教育啓発の際には、次の2点を行う必要がある。第一に、短期だけでなく長期的効果の確認である。身に着けたリテラシーがどれほど持続するのか、継続的にテストで確認していく必要がある。第二に、横展開によって面に広げていく。
しかし、
全国に小学校は約2万校、中学校は約1万校、存在する中で、教育啓発を広げるが困難であることが指摘されている。
西田亮介. (2021). 近年の日本における偽情報 (フェイクニュース) 対策と実務上の論点. 情報通信学会誌, 39(1), 13-
総務省と開発した教育啓発教材
必要最低限の知識を身に着けることを目的として、分かりやすさを心掛けている。
また、「読み上げれば講義ができる」講師向けガイドラインを作成している。
技術による対抗
• 技術が進歩するにつれ、偽情報も高度化していく。ファクトチェックにあたっても技術を駆使して行っていくことが求められるため、そのための資金や、技術連携が必要である。
• ディープフェイク技術の民主化に対抗するためには、「ディープフェイク技術を見破る技術の民主化」が求められる。誰でも自由に使えるサービスで、ディープフェイクかどうか検証できるような社会が望ましい。
IT企業がメディア企業に提供するなども考え
られる。
• ChatGPTなどの優れた技術が出てくる中、AIが作成した文章か
どうかを検証する技術の開発も急がれるだろう。
「ブチャの虐殺はウクライナによるもの」というロシアの主張に対して、
衛星写真を駆使してファクトチェックをした事例
偽画像・動画を見破るにはAIを駆使するしかない
報道機関への提供
重要なのはステークホルダー間の連携
• 偽・誤情報対策に特効薬はない。しかし根絶は不可能であるが、問題を改善していくことはできる。
• 「自由・責任・信頼があるインターネット」を築くためには、各ステークホルダーが一歩一歩改善に向かって歩んでいくことが重要。
その際には、ステークホルダー間の連携を強化することで、より効果的な施策をとることができる。
GoogleとAFPが作成したファクトチェッカー養成コンテンツ
日本にはこういったものが乏しい
BBCは偽・誤情報に対抗するためにIT企業と連携すると発表
</picture>
