日記（2.17）コラム「ディープフェイク」

2月17日　　（日曜日）　　　　晴れ

ディープフェイク
何のこと？　直訳すれば深い偽物とでも
　　
　これから心配なのは「ディープフェイク」だという。

　人工知能（ＡＩ）を駆使して生み出される本物そっくりの映像や音声などのことだ。
　真偽の判定が難しい偽の映像―そんなやっかいなものが今後増える恐れがある。
　最近の米誌で専門家がそう警告している。

　▼ディープフェイク作りには「ＧＡＮ」という技術が応用されるという。
　　二つのＡＩが競い合うことで、作成されるフェイク映像の精巧さがどんどん増すように
　　設計されたシステム。最後には、ＡＩでも見破られない偽映像が出来上がる。

　▼ディープフェイク社会では、「証拠映像」を信用できなくなる。
　それを突きつけられた側も「フェイクだ」と抗弁しやすくなる。
　事実に基づく議論や意思決定を土台とする民主主義にとって深刻な事態だ。

　▼なりすまし詐欺をはじめとしたフェイクは既に身の回りにまん延している。
　　ディープフェイクの脅威はより深刻で、選挙が歪（ゆが）められ、
　　戦争の引き金になる恐れも指摘されている。


　▼ＡＩが作るフェイクに人間は無力なのか。そうではないと信じたい。
　　人間の武器は何か。
　　ディープフェイクを疑い、常識という光で照らす能力だろう。
　　これからの社会では「人間の賢さ」が重要になるに違いない。
＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝＝

ディープフェイク【英】deepfake
　ディープフェイクとは、高度な画像生成技術を駆使して合成され、
　偽物（フェイク）とは容易に見抜けないほど作り込まれたニセ動画の通称である。
　とりわけポルノ動画を指す場合が多い。

　ディープフェイクと呼ばれる動画はAI（人工知能）を使って極めて高度に自然に画像合成が施されており、
　ニセモノであると知らされていなければニセモノと見破ることは容易でない。
　この技術を用いると、アダルト動画に有名女優の顔をはめ込んだ高度なアイコラのような動画を作成したり、
　政治家の発言や行動をでっちあげたフェイクニュースを作成したり、といった事が可能となり得る。
～～～～～～～～～～～～～～～～～～～
　政治家のディープフェイク動画は本物と信じ込まれたまま拡散して
　当人を失脚に追い遣る可能性がある。
　女優の顔を使ったポルノ動画は本人の名誉を著しく損なう。
　有名人の顔であればフェイク動画と判断することも難しくないが、
　一般人の顔でディープフェイクのポルノ動画が作成された場合は、
　事実無根のフェイクと見抜くことは困難であり、リベンジポルノ等への悪用が懸念される。

　ディープフェイクは2017年に英語圏の電子掲示板に投稿された動画が端緒とされており、
　2018年現在、その行く末に警鐘が鳴らされている。
～～～～～～～～～～～～～～～～～～～～～～
GANの仕組み

GAN全体の仕組みについて概説。
GANはGeneratorとDiscriminatorという別々の学習モデルを用います。

　このGeneratorとDiscriminatorの関係は、しばしば紙幣の偽装者(Generator)と、
　その紙幣が偽装紙幣であるかを見抜く警察(Discriminator)の関係で表されます。

　偽装者はできるだけ本物の紙幣に近い偽装紙幣を作り出すことで、警察の目を騙そうとします。
　逆に、警察も目利きスキルを上げてより本物の紙幣か偽物の紙幣かを見抜こうとします。

　GANではGeneratorはできるだけ本物（オリジナル）に近い画像を生成し、
　Discriminatorはそれが本物の画像か否かを判定するような構造をしています。

　つまりこの関係は、イタチごっこの関係にあり、
　よりツワモノの敵と競い合うことでスキルを高めていきます。

　GANでは、偽装者(Generator)の方に関心があり、
　より本物に近い画像などを生成することを目標としています。
　Generative Adversarial Nets(GAN)が敵対生成ネットワークという呼び名になっているのも、
　この競い合いのことを言っています。
～～～～～～～～～～～～～～～～～～