筆者は米国やEUにおける生成AIの普及に伴う利用範囲の厳格化等につき本ブログで論じてきた。特にEUについては、筆者ブログ「わが国のAI立法の在り方を見据える観点からEUのAI規則案（AI法案：Artificial Intelligence Act）の最終段階を改めて探る(その1)」、同(その2完)、米国については、筆者ブログ「AI立法 のトレンド: 米国の州法案の発展を概観」、「米大統領令(EO: Executive Order 14110)の具体的内容と意義およびそれに基づく責任の履行を支援するためNIST「情報提供依頼文書 」の具体的内容」で詳しく取り上げた。
その中で2月8日、生成AIまたは事前に録音された音声通話(AI-Generated Voice Calls)についての米国連邦通信委員会(FCC)(注1)の管轄規制法である「電話消費者保護法( TCPA: Telephone Consumer Protection Act of 1991, Pub. L. No. 102-243, 105 Stat. 2394 (1991)」の解釈を巡る宣言的判断の情報を入手した。
また米国連邦取引委員会(FTC)は、2月15日、AIなりすましの脅威(個人、政府機関、ビジネスになりすますための AI の使用を禁止する規則案)に対抗するFTCの補足的NPR案を提案した。
今回は、2月8日のFCC の宣言的判断(Declaratory rulings)および2月15日のFTCの補足規則制定告示(supplemental Notice of Proposed Rulemaking :SNPR)の概要と意義を述べる。
１．FCC の生成Iによる音声通話(AI-Generated Voice Calls)についてのFCCの管轄規制法である「電話消費者保護法( TCPA: Telephone Consumer Protection Act of 1991)」の解釈を巡る宣言的判断(Declaratory rulings)
(1)Lexblog(AI-Generated Voice Calls: New Tech, Old Rules)の解説
Lexblogの「生成AIまたは事前に録音された音声通話(AI-Generated Voice Calls)についてのFCCの宣言的判断 (古くて新しい問題解決ルール)について」要約文を仮訳する。
FCCは2024年2月、「人工音声または事前に録音された音声」を含む通話はTCPAによって規制されていると企業に注意を喚起した。そして、FCC は AI が生成した音声は TCPA の規制に該当する一種の「人工」にすぎないと考えていることを明示した。 この発表は、2024年2月初めにFCCが発行した宣言的判断(Declaratory rulings) (注2)の中で行われた。
留意すべき点は、TCPA( Telephone Consumer Protection Act of 1991, Pub. L. No. 102-243, 105 Stat. 2394 (1991) に基づき、企業は特に次のことを行う必要があるとした点である (特定の例外が適用される場合を除く)。
①人工音声を含む住宅電話や携帯電話への通話については、事前に明示的な同意を得る。
②人工音声を含む住宅電話や携帯電話にマーケティング通話を行う場合は、事前に書面による明示的な同意を得る。
これらの要件の例外には、通話が緊急通話である場合などが含まれる。
実践すべき点: この宣言的判断はかなりの注目を集めたが、この判断自体は驚くべきことではない。 人工知能によって作成された音声は、その言葉が示すとおり「人工的」であるため、FCC が TCPA の下で音声をそのように考慮することを含めることは理にかなっている。
(2)2月8日のFCCの宣言的判断(全8頁)の要旨部の仮訳
１．人工知能 (AI) テクノロジーが出現し、消費者を望ましくない違法なロボ・コール(robocall)から保護する既存の規制環境に影響を与える中、FCCは本日、消費者は「電話消費者保護法 (TCPA)」に基づいて提供される保護を引き続き受けられることを明らかとする。
人工音声通信などのコンテンツを生成できる AI テクノロジーは有益であるが、一方、消費者に新たな課題をもたらすこともある(2023.10.23 AIに関する大統領令Executive Order No. 14110, Safe, Secure, and Trustworthy Development and Use of Artificial Intelligence, 88 Fed. Reg. 75191 (Oct. 30, 2023))(詳細は筆者ブログ参照)
この機会を利用して、FCCはこれらのテクノロジーへの TCPA の適用を明確にする。
２．この宣言的判断において、FCCは、「人工音声または事前に録音された音声」の使用に対する TCPA の制限 (47 CFR § 64.1200 - Delivery restrictions. ：47 U.S.C. § 227(b); 47 CFR § 64.1200(a)(1), (3)参照) が、人間の音声を生成する現在の AI テクノロジーを包含していることを確認した。
その結果として、そのようなテクノロジーを使用する通話は TCPA およびFCCの実施規則に該当するため、緊急目的または免除の場合を除き。そのような通話を開始するには着信側の事前の明示的な同意が必要である。
3．FTC、AIなりすましの脅威に対抗する対策として補足規則制定告示を提案
(1)Lexblog blog 「 FTC、AIなりすましの脅威に対抗する対策規則案を提案の要旨
2024 年 2 月 15 日、連邦取引委員会は、個人になりすますための AI の使用を禁止する規則案を提案した。これにより、政府および企業のなりすましに対する最近最終化された FTC 規則の保護が拡大される。 FTCは、規則の改正案について意見を求める補足規則制定告示（Notice of Proposed Rulemaking：NPR）(注3)に関するパブリックコメント期間を、連邦官報に掲載されてから60日後に終了すると発表した。
このFTCの迅速な措置は、ニューハンプシャー州の大統領予備選で投票しないよう有権者に促したバイデン大統領を模倣したAI生成のロボ・コール等への対応である。 FTC委員長のリナ・カーン(Lina M.Khan)氏は、FTCの補足NPRは「AIを利用した個人になりすました詐欺に対処するためのFTCのツールキットを強化する」ための重要なステップであると述べ、悪意のある者が「AIツールを利用して不気味な精度で、より広範な規模と範囲で個人になりすましている」と述べた。
Lina M.Khan 氏
今回のSNPR は、「州際通商における政府、企業、およびその職員または代理人のなりすましを禁止する」という FTC の新しい規則の保護を拡大する。 (16 CFR Part 461)。 FTCは、この新しい規則により、現在既存の規則が存在しない連邦裁判所にFTC ACT第19条による救済(注4)を申し立てるFTCの能力が促進され、消費者が救済されるまでの時間が短縮されると主張した。
(2)FTCのリリース要旨の仮訳
（A）「FTCがAIによる個人のなりすましに対抗するための新たな消費者保護策を提案」
連邦取引委員会は、個人のなりすましを禁止する規則制定案の補足通知(SNPR)についてパブリックコメントを求めている。 提案されている規則変更は、本日委員会によって最終決定されている政府および企業のなりすましに関する新しい規則の保護を拡大するものである。
FTCは、なりすまし詐欺に関する苦情の急増と、消費者やなりすまし個人への被害に対する国民の抗議を考慮してこの措置を講じた。AI 生成のディープフェイク(注5)を含む新興テクノロジーは、この惨状をさらに加速させる恐れがあり、FTC はなりすまし詐欺の検出、阻止、阻止にあらゆるツールを活用することに取り組んでいる。
(Wikipedia：2023年に出回った、元アメリカ大統領のドナルド・トランプが逮捕される様子を描いたディープフェイク画像から引用)
またFTCは、画像、ビデオ、テキストを作成するAIプラットフォームなどの企業が、使用されていることがわかっている、または知る理由がある商品やサービスを提供することでなりすましを通じて消費者に損害を与えることにつき、改正規則案が違法と宣言すべきかどうかについてコメントを求めている。
この補足的規則制定告示(SNPR)は、政府および企業のなりすまし規則に関してパブリックコメント期間中に受け取った、個人のなりすましによってもたらされるさらなる脅威と被害を指摘したコメントに応えて発行された。
(B)政府および企業のなりすまし禁止に関する最終規則
FTCサイトから抜粋、仮訳する。
補足的規則制定告示に加えて、FTC は政府および企業等のなりすまし規制規則を最終決定した。これにより、FTC は企業や政府機関になりすました詐欺師に対抗するための強力なツールを得ることができ、詐欺師に政府や企業のなりすまし詐欺で儲けたお金の法的返還を強制することを目的として連邦裁判所に直接訴訟を起こすことが可能になる。これは、AMGキャピタル・マネジメントLLC対FTC事件における最高裁判所の2021年4月の判決を考慮すると特に重要であり、この判決は、被害を受けた消費者への金銭の返還を被告に要求する政府機関の能力を大幅に制限したものである。
〇規則改正案制定の背景と追加説明
政府および企業のなりすまし詐欺は近年、消費者に数十億ドルの損害を与えており、2023 年にはどちらのカテゴリーでも FTC への報告が大幅に増加した。今回の規則により、FTC はこれらの詐欺とより効果的に戦うことが認められる。
たとえば、この規則により、FTC は次のような詐欺師に対して連邦裁判所に直接金銭的救済を求めることが可能になる。
①郵便やオンラインで消費者とコミュニケーションをとる場合、政府の標章(government seals)(注6)や企業のロゴを使用する。
②「.gov」電子メール アドレスのなりすましや、企業名のスペルミスに依存する類似の電子メール アドレスや Web サイトの使用など、政府機関および企業の電子メールおよび Web アドレスのなりすまし。
③政府機関または企業と関係があることがわかっている用語を使用して、政府または企業との関係を誤ってほのめかすこと（例: 裁判所との関係を誤ってほのめかすために「書記官室から電話しています」と述べるなど）。
最終規則の公表は、2021年12月に発行された規則案の事前告知、2022年9月に発行された規則案の告知、そして2023年5月の非公式公聴会に応じた2回のパブリックコメントを経て行われた。
(3) FTCなりすまし禁止規則案の内容と実務への影響に関する JD SUPRAの解説の要旨を仮訳
2024 年 2 月 15 日、連邦取引委員会 (FTC) は、政府、企業およびその役員に対する不正ななりすましを禁止する政府および企業のなりすまし規則 (以下「なりすまし禁止規則(Impersonation Rule)」という、こちらから入手可能) を最終決定した。 このなりすまし禁止規則は、連邦最高裁判所がFTC法第13条(b)が同委員会に公平な金銭的救済を与える権限を与えていないという判決を下した前述のAMGキャピタル事件を受けて、FTCが積極的な規則制定政策を継続することを示す最新の指標である。
(A)なりすまし禁止規則は、次の不公平または欺瞞的な行為または慣行として分類される。
①「直接的または暗示的に、実質的かつ虚偽的に政府機関または企業を装う」。
②「直接的または暗示的に、政府機関または企業との提携（支持または後援を含む）を重大に虚偽表示すること」。
注目すべきことに、なりすまし禁止規則では、禁止されている行為は「重大」かつ「商取引において、または商取引に影響を与える」ものでなければならないと規定していることである。 FTCは、規則案の文言には含まれていないこれらの制限につき、「最終的な規制文書の範囲がFTC法に基づくFTCの権限の範囲と同一であることを十分に明確にしている」と説明し、「 純粋に芸術的または娯楽的な衣装でのなりすましなど、商取引に重要ではない虚偽のなりすましまたは虚偽表示にあたらず、最終規則の対象外である」
(B) 規則案の補足告知(SNPR)の概要と注目すべき事項
〇2月15日、FTC は、なりすまし禁止規則の改正案に対するパブリックコメントを求める規則制定案の補足通知 (SNPR) を発行した。 この改正案は、政府機関や企業だけでなく個人のなりすましを禁止し、なりすましを通じて消費者を欺くために自社の技術が使用されていることを知っている、または知る理由がある企業に第三者責任を課すことになる。
〇SNPRを発表したプレスリリースの中でFTCは、人工知能（AI）が生成するディープフェイクなどの新興テクノロジーがなりすまし詐欺を「加速させる恐れがある」と述べた。 同じプレスリリースの中で、FTC委員長のリナ・カーン氏は、「詐欺師たちはAIツールを利用して、不気味な精度で、より広範囲にわたって個人になりすましている。音声クローンやその他の AI を利用した詐欺が増加しているため、なりすまし詐欺からアメリカ国民を守ることがこれまで以上に重要になっている」 と述べた。政府機関や企業以外の個人へのなりすましを禁止するためになりすまし禁止規則を拡大すれば、FTCはロマンスやその他の家族詐欺を永続させる詐欺師をターゲットにすることが可能になる。
さらに、規則改正案が条文通りに採択された場合、なりすまし詐欺の「手段と手段」を提供する企業に第三者責任を課すことになる。 カーン氏は、レベッカ・K.スローター(Rebecca Kelly Slaughter)委員とアルバロ・ベドヤ(Alvaro Bedoya)委員とともに、修正案に関する声明を発表し、次のように説明した。
Rebecca Kelly Slaughter 氏
Alvaro Bedoya 氏
「注目すべきことに、補足的提案では、なりすまし詐欺を実行するための「手段と手段」を提供するあらゆる行為者に責任を拡大することも推奨している。このアプローチでは、たとえば、IRS職員のディープフェイクを生成するように設計されたAIソフトウェアツールが、税金を支払ったかどうかについて人々を騙すために詐欺師によって使用されることを知っていた、または知っていたはずだった開発者は責任が適用されることになる。ツールの違法な使用を阻止するのに最適な立場にある上位の関係者が責任を逃れないようにすることは、責任と能力と制御を一致させるのに役立つ。」
〇さらに詐欺行為を行った個人ではなく、欺瞞的なコンテンツの生成に使用されたプラットフォームを対象とする責任を拡大することは、重大な影響を与えることになる。 FTC は AI に重点を置いているように見えるが、SNPRの文言は、その手段の合法的で合法的な使用にもかかわらず、詐欺行為を行うために使用される可能性のある手段の開発者に対しても第三者責任を負わせることになる。 悪意のある者が携帯電話を使用して被害者に連絡し、AI ソフトウェアを使用して家族になりすまし、被害者に送金やギフトカードの送信を誘導した場合、電話サービスプロバイダー、AI 開発者、および送金サービスがその行為に対して責任を負う必要があるであろうか。 詐FTC によれば、そのような悪用の可能性を知っていれば、その可能性があるという。 事実上、SNPR は、第三者の不正行為に対する保険会社への詐欺行為を促進するために使用される可能性のある製品またはサービスの開発者またはプロバイダーを対象とする。
〇FTCは、改正案は「誠実な個人や企業に新たな負担を課すものではない」と主張しているが、大手小売業者に対して最近提出した訴状の中で、FTCが電話勧誘販売規則（Telemarketing Sales Rule：TSR）における同等の「実質的援助」責任をどのように解釈しているかに注目している。 FTCは、同社が「詐欺や詐欺において送金サービスが果たす役割を知っていた」ため、同社が電話勧誘詐欺に関与した人物に送金サービスを提供することで、電話勧誘詐欺に関連して「実質的な支援」を行ったと主張している。それでも「見て見ぬふりをした」 つまり、FTCは、詐欺師に顧客を騙し取らせた責任を[会社]に負わせているのだ」
〇なりすまし詐欺を行う「手段と手段」を提供する第三者に対する FTC の責任理論が、TSR に基づく第三者責任の理論と同じくらい広範である場合、AI プラットフォームとソフトウェア開発者が自社製品を使用する詐欺師の数に応じその訴訟のツケを負わされる可能性がある。
〇FTC の SNPR には、パブリック コメンターが検討する一連の対象を絞った質問が含まれている。その中には、なりすまし規則に、「商品やサービスが不法になりすますために使用されるという知識や理由を持って商品やサービスを提供することの禁止が含まれるかどうか」が含まれる。「 政府および企業のなりすましに関する取引規制規則の修正案」と題された FTC の SNPR の本文は、ここで見つけることができる。コメントの提出期限は、連邦官報での公表日から 60 日後である。
****************************************************************:
(注1) Declaratory rulings: § 1.2 宣言的判断(コーネル大学ロースクールの解説から、抜粋、仮訳する)
(a) 連邦通信委員会(FCC)は、連邦行政手続法(Administrative Procedure Act)第 5 条 (d) に従って、申し立てまたは自らの申し立てに基づいて、論争を終了するか不確実性を除去する宣言的判断を発行することができる。
(b) 宣言的判断の発行請願が提出された、またはFCCによって割り当てられた局または事務所は、請願内で提起された問題が既存の訴訟に実質的に関連しているかどうかに応じて、そのような請願を既存のまたは現在の訴訟手続きの中で記録すべきである。 その後、局または事務所は、公告を通じて請願書に対するコメントを求める必要がある。局または事務所によって別段の指定がない限り、宣言的判断を求める文書化された請願に対する答弁書(responsive pleadings)(注2)の提出期限は、公告の発表日から 30 日目であり、応答のデフォルトの提出期限はその後 15 日目となる。
(注2)答弁書-回答
コーネル大学ロースクールから引用、仮訳する。
28行政規則集 § 76.9 答弁書- 回答(28 CFR § 76.9 - Responsive pleading—answer)
(a) 回答の提出期限: 被告は、訴状の送達後 30 日以内に回答を提出し、当該問題を管轄する連邦検事に送達しなければならない。
(b) デフォルト。 被申立人が所定の期間内に回答を提出し送達しなかった場合は、申立の申し立てに対して出頭して異議を唱える権利を放棄したものとみなされます。 このような場合、裁判官はデフォルトで判決を下すことができる。
(c) 答えます。 訴状で主張されている重大な事実に異議を唱える被告、または法律問題として判決を受ける権利があると主張する被告は、書面で回答を提出しなければならない。
(1) 答弁書には、それぞれの積極的抗弁を裏付ける事実の陳述が含まれるものとする。
(2) 答弁書には、被告が各申し立てを認める、否認する、認めるか否認するための十分な情報を持っていない、または得ることができない、あるいは申し立てに対する答弁は特権によって保護されているという陳述が含まれるものとする。 自己有罪。
(3) 情報が欠如しているという陳述、または申し立てに対する答弁が特権的であるという陳述は、否認の効力を有するものとする。
(4) 否定されなかった申し立ては認められたものとみなされる。
(d) 返信します。 告訴人は、28 CFR 76.10 に従って裁判官がそのように規定した場合には、逮捕された各肯定的弁護に応じた答弁書を提出することができる。
(注3) 規則制定告示 (NPR) は、米国連邦政府機関が規則制定プロセスの一環として規則や規制を追加、削除、または変更したい場合に法律によって発行される公告である。 この告示は米国行政法の重要な部分であり、通常、パブリックコメントを募集するプロセスを作成することで政府を促進する。 この用語は、米国の州レベルでも使用される。(Wikipediaから抜粋、仮訳)
(注4) 3. FTCの行政命令発動後の救済規定を仮訳する。
さらに（命令に対するすべての司法審査が完了した後）、FTCは、行政手続きで問題となった行為によって生じた消費者被害について、連邦地方裁判所で被申立人に対して消費者救済を求めることができる。 FTC 法第 19 条に基づくこのような訴訟では、15 U.S.C. 第 57b 条により、FTCは「合理的な人なら、その状況下で[行為が]不正または詐欺的であることを知っていたであろう」ことを証明しなければならない。
(注5)ディープフェイク: 「深層学習（deep learning）」と「偽物（fake）」を組み合わせた混成語。人工知能に基づく画像・映像合成技術を指す。「敵対的生成ネットワーク（GANs）」と呼ばれる機械学習技術を使用して、既存の画像や映像を、ある意図に沿った別の画像または映像に重ね合わせて（スーパーインポーズ）、結合することで生成する。この意図的な映像の結合により、実際には起こっていない出来事に関する偽の映像が生み出されることとなる。
ディープフェイクは、児童性的虐待コンテンツ（CSAM）、有名人のフェイクポルノ、リベンジポルノ、プロパガンダ、フェイクニュース、デマ、いじめ、詐欺に悪用される可能性があり、広い注目を集めている。(Wikipedia から抜粋)
(注6) FTCの標章
************************************************************************
Copyright © 2006-2024 芦田勝(Masaru Ashida)．All Rights Reserved．You may reproduce materials available at this site for your own personal use and for non-commercial distribution．
