≪人工知能と偽情報≫
今年は、ChatGPT
<
ChatGPTとは?使い方や始め方、日本語対応アプリでできることも紹介!
>
などの生成AI(人工知能)がニュースを賑(にぎ)わせた。生成AIにデータを学習させれば、文章や音楽などのコンテンツが容易に作れる。
利便性が高い一方、偽情報の拡散やサイバー攻撃にAIが悪用される危険性について懸念が高まった年でもあった。
米大統領選挙まで1年を切る中、選挙期間中にAIを使った偽情報が拡散されるのではと心配する米国人は、83%にも及ぶ。
11月に米ノースイースタン大学が出した報告書で明らかになった。
実は5月、米国防総省近くで爆発があったとする偽画像がソーシャルメディア上で拡散する事件が発生したばかりだ。
米国防総省近くで黒煙が立ち上っている生々しいAI作成画像に衝撃を受け、ダウ平均株価が一時80ドル近く下落してしまった
その原因も、なんとAIの作成した偽情報によるものだった。
AI研究のために利用者の情報を違法に集めているとの偽記事がAIによって作られ、オンライン上で拡散してしまったのである。
米グーグルのセキュリティ関連子会社「マンディアント」は、情報戦におけるAI利用の効果は現時点で限定的と評価する。
ただし今後、さまざまな攻撃者がAIを使った情報戦や影響工作を増やしていくとも予想しており、警戒が必要だ。
≪なりすまし動画を使った詐欺≫
偽情報の他、AIはサイバー攻撃にも使われ始めた。
アン・ニューバーガー米国家安全保障担当副補佐官(サイバー・先端技術担当)の10月18日の記者会見によると、北朝鮮をはじめとする国々や犯罪者は、AIを使ってコンピュータウイルス作成や侵入するシステムの捜索を試みているという。
特殊詐欺電話でも、AIが使用され始めた。
ソーシャルメディア上に投稿された動画を流用して、誘拐された配偶者や親、子供など、窮地に陥った家族を装った偽動画を作る。
愛する家族の声や顔で切々と訴えられると、人々は動転し、金銭を支払ってしまいがちだ。
実際に今年4月、中国福建省のハイテク企業の社長が約8500万円を騙(だま)し取られる事件があった。
「友人」からビデオ通話があり、声と表情に10分でまんまと騙されて、「友人」の入札のための保証金を振り込んでしまったのだ。
米セキュリティ企業「マカフィー」の調べでは、10人に1人がこうしたAI生成の偽動画詐欺電話を受けたことがある。
そのうち77%が金銭を支払ってしまっているのだ。
3分の1以上の被害者は、500~3000ドル(7万~43万円)を払っている。
生成AIも登場して早速、サイバー攻撃で悪用されるようになった。
手間をかけずに、説得力あるなりすましメールやコンピュータウイルスの作成ができるからだ。
昨年第4四半期~今年の第3四半期、なりすましメール攻撃はなんと13倍近く急増した。米セキュリティ企業「スラッシュネクスト」は、この背景に生成AIの悪用があると分析している。
≪新技術活用で防御力強化≫
ただし、生成AIはサイバーセキュリティにとって、リスク一辺倒では決してない。実際、サイバーセキュリティの研究者たちは、既に生成AIを作業の自動化、データの分析、脆弱(ぜいじゃく)性の発見などに活用している。
また、NTTセキュリティ
<
会社概要
会社名 | NTTセキュリティホールディングス株式会社 |
所在地 | 〒101-0021 東京都千代田区外神田4-14-1 |
役員 | 代表取締役社長 | 横浜 信一 |
代表取締役副社長 | 関根 太郎 |
取締役 | 鈴木 勝彦 |
取締役 | 木村 正人 |
監査役 | 南 宏二 |
監査役 | 伴 吉剛 |
株主 | 日本電信電話株式会社 (100%) |
https://jp.security.ntt/about/nttsecurity_holdings
NTTグループCISO。通商産業省(現:経済産業省)で8年、マッキンゼーで19年、NTTデータで3年のIT経営戦略に関する経験を積んだ後、2014年にNTT入社。以来、日本に本拠地を置く会社としては唯一、営利活動とは切り離したサイバーセキュリティの啓発活動に特化したチームのリーダーを務める。特にサイバーセキュリティの官民連携促進について日本と米国を中心としつつ、欧州・東南アジアでも活動。2015年2月のホワイトハウス・サイバーセキュリティ・サミット(於:米スタンフォード大学)や、2017年9月のG7情報通信・産業大臣会合マルチステークホルダー会議(於:イタリア、トリノ)等にパネリストとして参加。2018年7月にNTTグループCISO就任、グループ全体のサイバーセキュリティ強化を担う。内閣サイバーセキュリティセンター重要インフラ専門調査会、アスペン・グローバル・サイバーセキュリティ・グループ等、国内外の産官学リーダーへの助言も積極的に行っている
木村 正人のプロフィール
(きむら まさと)在ロンドン国際ジャーナリスト(元産経新聞ロンドン支局長)。憲法改正(元慶応大学法科大学院非常勤講師)や国際政治、安全保障、欧州経済に詳しい。産経新聞大阪社会部・神戸支局で16年間、事件記者をした後、政治部・外信部のデスクも経験。2002~03年、米コロンビア大学東アジア研究所客員研究員。著書に『EU崩壊』『見えない世界戦争 「サイバー戦」最新報告』(いずれも新潮新書)。
>
は、ChatGPTを使って、偽サイトの検出ができないか実験を行った。
その結果、ChatGPT(GPT―4)を使うと、そのウェブサイトが偽サイトか正規のものか、なんと98%以上の精度で識別できると判明した。
これは増え続けるサイバー犯罪への対抗上、朗報である。
人気のあるオンラインサービスを騙(かた)った偽サイトに利用者を引き寄せ、クレジットカードなど個人情報を入力させて盗むサイバー犯罪は、世界的に問題になっているからだ。
また、「ウイルスに感染しました」と偽の警告文をパソコンの画面上に表示し、利用者をパニックに陥らせる詐欺も多い。
警告文中の電話番号に電話をさせ、ウイルス駆除のサービスと称して金銭を支払わせるサポート詐欺は、今年上半期、警察庁の把握している架空請求詐欺の約半数に上った。
人間と異なり、決して慌てず、疲れない生成AIがサイバー防御を助けてくれる訳だ。
残念ながら全てのサイバーセキュリティ対策を生成AIやAIで自動化はできない。