オープンAIは今のところ、SNSの投稿やサイバー攻撃がAIによって影響力を増した証拠はないという
【シリコンバレー=山田遼太郎】
米新興企業オープンAIは10日までに、同社の人工知能（AI）をインターネット上の情報操作に使った事例を2024年に20件以上突きとめたと発表した。
イランやロシアの集団が工作に関与し、生成AIで記事やSNSへの投稿をつくったという。米大統領選をはじめとする選挙も標的だったと明らかにした。
オープンAIは文章や画像を瞬時につくる対話型AI「Chat（チャット）GPT」を開発して提供している。
24年に確認された情報工作について、10月時点の報告書をまとめた。オープンAIは判明した事例と関連するアカウントを停止した。
イランの勢力は米大統領選への介入を狙ったとみられる記事をAIで作成していた。
「STORM-2035」と呼ばれる集団で、700〜900語と長い英語の文章をつくり、ウェブサイトに掲載した。オープンAIは米国内のリベラル派・保守派にそれぞれ働きかけようとしたとみている。
報告書では記事の具体的な内容は明らかにしていない。
同集団については米マイクロソフトが8月、米大統領選で共和党候補のトランプ前大統領を攻撃する記事を掲載したと認定した。
中東情勢を巡りパレスチナを擁護する見解を広めることも同集団の狙いとみられている。
ロシアの集団もSNSの投稿作成にAIを使っていた。
英国やフランスを対象に、両国のウクライナ支援を批判するコンテンツを発信した。
Xへの投稿には、オープンAIの画像生成AI「DALL-E（ダリ）」でつくった画像を添えていた。
フランスを標的とする情報工作のなかには、24年夏のパリ五輪の運営が失敗だったと非難する内容もあった。
ウクライナに侵略したロシアは同五輪に国としての参加を認められなかった。
選挙に関する情報工作を試みたのは4集団あった。米大統領選のほか、アフリカのルワンダでも選挙前に国内世論へ働きかけようとしたケースがあった。
中国を拠点にするとみられる勢力はオープンAIの社員を標的にサイバー攻撃を仕掛けた。
顧客サポートを求めるチャットGPTの利用者になりすまし、データ流出などを狙うマルウエア（悪意のあるプログラム）を社員らに電子メールで送ったという。
事前にシステムが検知し、被害はなかった。
オープンAIは、SNSの投稿やサイバー攻撃がAIによって影響力を増した証拠はないと説明している。
選挙を巡っても、AIでつくった投稿や記事が人々に広く伝わった事例は見られないという。
同社は「世界中の選挙と民主主義のプロセスにおいて、悪意ある当社技術の利用を特定、阻止する努力を続ける」と強調している。
文章や画像を自動作成する生成AIに注目が高まっています。ChatGPTなど対話型AIやMidjourneyなど画像生成AIがあります。急速な拡大を背景に、国際的な規制や著作権に関わるルールなどの策定が急がれています。
続きを読む
