実在していない人間の顔写真を生成するAIの精度はいまやすさまじいものになっており、ぱっと見ただけでは実在する人間なのか、それとも架空の人間なのかの判別が難しくなっています。これにより、フェイクニュースがより真実味を増してしまうという問題が 懸念されているところ、ニューヨーク・タイムズが「AI生成画像を見分けるポイント」を公開しています。AIが存在しない人の顔を生成する技術は、近年急成長している分野です。以前であれば作れなかったレベルの顔が比較的容易に作れるようになり、存在しない人の画像を1枚あたり2.99ドル(約310円)、あるいは1000枚あたり1000ドル(約10万5000円)で生成・販売するというウェブサイト「Generated.Photos」が登場するまでになりました。あまりの精度に本物の人間の写真なのか、それともAIが作り出したフェイクなのかの判別が難しくなり、フェイクニュースで乱用されるという問題も懸念されています。
このようなフェイクの顔を作成するためには、 敵対的生成ネットワーク(GANs)が利用されます。GANsは生成ネットワークと識別ネットワークの2つから構成され、人が与えた「実在する人物の顔画像データ」をもとに「生成ネットワークが画像を出力して識別ネットワークがその成否を判断する」という行動を続けることで、生成側は識別側に見分けられないように、識別側はより正確に識別できるように学習していくというもの。
GANsソフトウェアはさまざまな「値」によって顔を調整できるようになっています。以下から年齢という値を変更してみます。少年の顔が……
スライダーを右に動かすだけで年齢が変わり、青年の顔に。
「目」という値を触ってみます。細められた目が……
ぱっちりと見開かれた状態になりました。
「顔の向き」も1つの値。
スライダーを動かすと、人物の顔の印象はそのままに、やや角度がつきます。
「感情」の値をスライダーで変更してみます。
こんな感じ。同一人物のまま、笑顔の表情に。
さらに「性別」も変更可能。
スライダーを右に動かしていくと髪が短くなり……
目元の印象などが変化していきました。上の画像と違いはわずかですが、確かになぜか「男性的」といえそうな印象になっています。
以下の画像では「人種」の値を変更。
笑顔の印象はそのままに、人種が変わりました。肌の色だけが変わるのではなく、目や鼻が微妙に変化しています。
以下はNVIDIAのGANsソフトウェアを使ってニューヨーク・タイムズが作成した「偽のポートレート」の数々。ムービーを再生すると現れる人の顔は、いずれも本物の人間のように見えます。
<iframe id="twitter-widget-0" class="" title="Twitter Tweet" src="https://platform.twitter.com/embed/index.html?dnt=false&embedId=twitter-widget-0&frame=false&hideCard=false&hideThread=false&id=1330776846246535174&lang=ja&origin=https%3A%2F%2Fgigazine.net%2Fnews%2F20201124-ai-created-fake-people%2F&theme=light&widgetsVersion=ed20a2b%3A1601588405575&width=550px" frameborder="0" scrolling="no" allowfullscreen="allowfullscreen" data-tweet-id="1330776846246535174" data-mce-fragment="1"></iframe>
フェイク情報について研究を行うカミーユ・フランソワ氏は「この技術が初めて現れた時はひどくて、 シムピープルのような感じでした。そこから技術は急速に進歩し、時間が経過するにつれ人間による判別が難しくなっています」と述べています。
これらの技術はスマートフォンに搭載される顔認証や 犯罪捜査にも利用されますが、まだ完璧なものではないとのこと。かねてからこれらのAIは人間の偏見を受け継いでいることが指摘されており、顔認証アルゴリズムは肌の色が濃い人の認証を 苦手としています。これと同様に、顔生成AIも、以下の点で粗がみられます。
顔まわりの「アクセサリー」はAIの粗が出やすい部分の1つ。
女性のイヤリングに着目すると、左側が右側よりもやや小さいことがわかります。
また目の位置が顔の中央から等間隔というのもAI製の顔の特徴。これはGANsが実際の人間の顔から学習する時に「中央」を捉えた状態で顔を切り取るためとのこと。
さらに、眼鏡がうまく耳にかかっていなかったり……
髪に謎の人工物がついていたりすることもあります。
また背景がやけにぼやけるのもAI生成画像の特徴となっています。
