人生を狂わせるレベルの「ディープフェイク画像」を他人のSNS投稿から制作できるGoogleのAI技術

人生を狂わせるレベルの「ディープフェイク画像」を他人のSNS投稿から制作できるGoogleのAI技術

 

 

今回の「Ars Technica」の実験で、フェイク画像の対象となったのは「ジョン」というこちらの男性。

もちろん彼は実在する人物ではなく、AIが合成した架空の人物です。「Ars Technica」は当初ボランティアを募って、実在する人物で実験を行おうとしていたものの、風評被害リスクが高すぎることから取りやめたとのこと。

そこで、代わりにAIを使って作られたのが「ジョン」。彼は全くの架空の人物であるため、心配は無用です。今回のシナリオでは、ジョンは小学校の教師で、この12年間、仕事中や自宅、あるいは外出先で撮った写真をFacebookに投稿してきたという設定です。

彼の投稿から入手したという設定の画像は以下の7枚。よく見ればAI生成画像だと分かりますが、どれも無難で実際にありそうな写真です。

この7枚の画像だけを使って、AIに訓練させれば、ジョンの悪事を証明するような「証拠写真」を生成することができます。

例えば、こちらは教室でジョンが上裸になっている画像。文字などがおかしくなっていますが、写っているジョンにはほとんど不自然さはありません。

こちらは浮気の証拠写真。よく見ると背景が不自然ですが、このような弁明しづらい状況のフェイク写真は厄介です。

他にも、ジョンが秘密の軍事組織に属していたかのような画像すら作成することができます。一度データセットを作成してしまえば画像を作り放題なので、それっぽい画像の生成は容易でしょう。

「Ars Technica」は、フリーの画像生成AI「Stable Diffusion」に「Dreambooth」という技術を使い、今回の画像を作成したとのこと。画像生成にかかった時間は約1時間で、これは多くの不完全な画像を選別し、最適な画像を見つけるために試行錯誤を重ねた結果だそうです。

「Dreambooth」は、Googleと米ボストン大学の共同研究によって最近発表された技術です。Dreamboothを使うことで、ファインチューニングと呼ばれるプロセスを経て、Stable DiffusionのAIモデルに新しいテーマを教えることができます。

 

同メディアは、ジョンは存在しないものの、他の実在する人物にも適用可能だと指摘しました。生成された画像は完璧とはいい難いものですが、AIの精度は日進月歩で進化しています。また、画像を荒くすれば、AIの精度の低さをごまかすこともできてしまうかもしれません。

「Ars Technica」の記者であるベンジ・エドワーズ氏はこれについて「SNS投稿を見直すべきかもしれない」と指摘しています。

もしあなたが、過去10年間に自分の写真をSNSに投稿した数十億人の一人なら、その行動を見直す時期が来ているかもしれません。新しいAI画像生成技術では、誰でも自分の写真（またはビデオフレーム）を一握りだけ保存し、AIを訓練して、あなたが恥ずかしいことや違法行為をしている様子を写したリアルなフェイク写真を作成することができます。

引用元：Benj Edwards(Ars Technica)

今回の技術とは別ですが、実際にディープフェイクの技術は様々なところで悪用されています。先日には、ウクライナのゼレンスキー大統領が「武器を放棄するよう兵士に呼びかける」ディープフェイク動画が、ハッキングされたウクライナのWEBサイトに投稿されたという報告もありました。

 

必要以上に怖がる必要はありませんが「このようなディープフェイクが誰でも使える」というのは事実。写真や動画は明確な証拠として見られがちですが、フェイクの可能性も十分あるということを忘れないようにしましょう。

 

<iframe style="border: none;" src="https://rcm-fe.amazon-adsystem.com/e/cm?o=9&p=42&l=ur1&category=echo_buds&banner=1T6YFM6MWDW3R4TQDF82&f=ifr&linkID=1aff915a927b6d34da1c24fdcef1d311&t=gomabon199901-22&tracking_id=gomabon199901-22" width="234" height="60" frameborder="0" marginwidth="0" scrolling="no" sandbox="allow-scripts allow-same-origin allow-popups allow-top-navigation-by-user-activation"></iframe>

<iframe style="border: none;" src="https://rcm-fe.amazon-adsystem.com/e/cm?o=9&p=293&l=ur1&category=echo_buds&banner=0F4C0C24XA6XVN8BBKR2&f=ifr&linkID=e2151e8e466cdf09a8cbc7a2f07ed942&t=gomabon199901-22&tracking_id=gomabon199901-22" width="640" height="100" frameborder="0" marginwidth="0" scrolling="no" sandbox="allow-scripts allow-same-origin allow-popups allow-top-navigation-by-user-activation"></iframe>

2022年12月15日 今日の運命

 

 

2022年12月15日　　虚空蔵菩薩

 

12月15日 (木曜)
月齢 21.02
潮汐 中潮

月名(旧暦日)
宵月

四緑木星の日

縁談、商談の来訪者あり。言動をつつしみ話を進めると良い。いつも良い日、皆良い人。こんな心境を養いたい

 

破壊の週  衰の日

ネガティブになりやすく、健康面でも不安定な日。
病気や怪我に十分な注意が必要です。
この日は心身を整える日だと理解して、一人でリラックスして過ごす時間を確保することが災難回避のカギです。

 

虚空蔵菩薩

 

虚空蔵菩薩は計り知れない智慧と福徳を具え、衆生の諸願を成就させてくれる菩薩で、頭に寶冠、手に福徳の如意宝珠、智慧の宝剣を持つ。胎蔵界曼陀羅虚空蔵院の主尊。

御真言

オン、バ、ザラ、アラ、
タンノー、オン、タラーク、
ソワカ

月
正位置・・・予期されない危険。恋愛上の不運。スキャンダル。欺く。欺かれる。迷い。裏切り。家庭、家族の不和。家族の中に出る病人。死亡した関係者にまつわる事柄。霊感。心霊現象。死者との交霊。信仰。墓地。悪霊が付く。悪魔祓い。不安のある旅立ち。転職。就職。進学。見合い結婚などで未知の世界へ飛び込むこと。先祖。先祖霊。霊界。
逆位置・・・小さな嘘。軽いスリルを味わう。少しの失敗。過去の出来事に影響される。魔女的な女性に影響される。過去の嫌な相手が現れる。恋愛上の口論。

ウェイト解説
正位置・・・隠れた敵。危険。中傷。闇。恐怖。欺き。幻想。オカルト的な力。失敗。
逆位置・・・不安定。続かないこと。沈黙。小さな欺きと失敗。

 

 

 

 

 

<iframe style="border: none;" src="https://rcm-fe.amazon-adsystem.com/e/cm?o=9&p=42&l=ur1&category=echo_buds&banner=1T6YFM6MWDW3R4TQDF82&f=ifr&linkID=1aff915a927b6d34da1c24fdcef1d311&t=gomabon199901-22&tracking_id=gomabon199901-22" width="234" height="60" frameborder="0" marginwidth="0" scrolling="no" sandbox="allow-scripts allow-same-origin allow-popups allow-top-navigation-by-user-activation"></iframe>

<iframe style="border: none;" src="https://rcm-fe.amazon-adsystem.com/e/cm?o=9&p=293&l=ur1&category=echo_buds&banner=0F4C0C24XA6XVN8BBKR2&f=ifr&linkID=e2151e8e466cdf09a8cbc7a2f07ed942&t=gomabon199901-22&tracking_id=gomabon199901-22" width="640" height="100" frameborder="0" marginwidth="0" scrolling="no" sandbox="allow-scripts allow-same-origin allow-popups allow-top-navigation-by-user-activation"></iframe>