孤帆の遠影碧空に尽き

年に3回ほどアジアの国を中心に旅行、それが時間の流れに刻む印となっています。そんな私の思うこといろいろ。

AI  「チャットGPT」など生成AIの拡大と問題 顔認証AIによる監視 戦場ではAIは必需品へ

2023-03-30 23:47:39 | IT AI

(【2月15日 ABCニュース】)

【「チャットGPT」で作成した国会質問と首相答弁】
これまでのチャットボットと異なり、自然な受け答えで、まるで人と話しているような感じになる対話型人工知能(AI)「チャットGPT」に関する話題は、3月4日ブログ“AI技術の進化で変わる社会 中国は対話型AIの使用停止 AIを政治に利用する国も 現実先行の軍事面”で取り上げたところです。

今日、その「チャットGPT」及びAIに関する記事を多く目にしたので、そうした記事をピックアップしてみました。

日本の国会にも登場。
立憲民主党の中谷一馬議員は事前に「法律案に関して、首相にどんなことを質問すべきだと考えていますか」とチャットGPTに尋ね、得られた質問をそのまま読み上げました。

チャットGPTは米新興企業オープンAIが開発し2022年11月に公開。2か月間で全世界のアクティブユーザー数が1億人を突破し、2月に入るとユーザーが3億人を超えたとのことです。

私も前回ブログを書く際に、試しに1度使ってみましたが、確かに驚くほど自然な文章を瞬時につくってくれます。

今回チャットGPTが作成した質問は新型インフル等特別措置法改正に関するもので、「改正法案に関して、地方自治体や医療現場の関係者の意見を十分に反映させているのかどうか。そして、改正法案に対する関係者の反応について教えてください」というもの。 「20秒ほどであっという間に」(中谷氏)できたそうです。

中谷氏は、「首相答弁」もチャットGPTで作成。

****国会でチャットGPTが初質問 岸田首相「私の方が…」 AIに対抗心?****
29日の衆院内閣委員会で、立憲民主党の中谷一馬氏が人工知能(AI)を用いた対話型の自動応答ソフト「チャットGPT」で作成した質問を、岸田文雄首相に問う一幕があった。

中谷氏はチャットGPTが作った「首相答弁」も紹介。首相はAI答弁について「ぱっと見て、(自分の方が)より実態を反映した答弁をしている」と答え、AIへの対抗心をちらつかせた。 

【Q:日本経済の課題は?】チャットGPTの回答  
中谷氏によると、国会審議でAIを用いて首相に質問するのは史上初という。

中谷氏は、審議中の新型インフルエンザ等対策特別措置法改正案について、「衆院議員だったら首相にどのような質問をすべきか」とチャットGPTに「質問案」作成を依頼。

チャットGPTが作成した「地方自治体や医療現場の関係者の意見を十分に反映させているのかどうか。そして、改正法案に対する関係者の反応について教えてください」との質問案をそのまま首相にぶつけた。

首相は「今回の法案は(関係者の)意見、要望に十分応えている改正になっている」などと答えた。  

中谷氏は続いてチャットGPTが作成した首相の「答弁案」も披露した。「(同法改正案は)地方自治体や医療現場の関係者の意見を十分に反映させるように努めている」などとする内容で、中谷氏は「首相の答弁より誠実でピントが合っているかもしれない」と指摘した。

これに対し、首相が「(自らの方が)より具体的に関係者の名前などを挙げている」などと反論すると、委員会室に笑いが起きた。  

首相は対話型のAIについて「適切に使用することで行政職員がより多くの情報を効率的に利用する可能性がある」とした上で、「活用の進め方を検討したい」と述べた。【3月29日 毎日】
*********************

首相とチャットGPT、まあ、まあ、似たような答弁です。

別に中谷氏はチャットGPTを云々するためではなく、岸田首相が国会で似たような答弁を繰り返し、質疑が深まらないという不満から、それぐらいならチャットGPTの方がまだ誠実でましな答弁をする・・・ということを指摘したかったようです。

前回1度試した感じからすると、おそらく国会答弁のような“あたり障りのない”、ポリティカルコレクトネスを踏まえた模範的文章をつくるのは、チャットGPTが一番得意とするところでしょう。

おそらく首相答弁を作成する官僚は今後チャットGPTを頻用するのではないでしょうか。

【生成AIは世界全体で3億人分相当の仕事を置き換える可能性がある】
ただ、質問も答弁もAIができるなら、政治家も官僚もいらない・・・ということにも。

*****「ChatGPT」など生成AI、3億人分の仕事を奪う可能性...ゴールドマン・サックスが予測****
<現存の職業の約3分の2が影響を受ける可能性>
生成AIは世界全体で3億人分相当の仕事を置き換える可能性がある──ゴールドマン・サックスは現地時間3月26日に公表した報告書で、そう結論付けた。

生成AIは、ユーザーの要求に基づいてテキストや画像などを自動生成。対話AI「ChatGPT」の公開をきっかけに、脚光を浴びている。巨大テック企業までもが追随し、独自AIの構築に本腰を入れることとなった。

ゴールドマン・サックスのアナリストたちは、米国とヨーロッパの職業・業務のデータを精査。その結果、生成AIが想定通りの性能を発揮すれば、世界全体で3億人分相当の仕事が、自動化の脅威にさらされる可能性があるという結論に至った。

報告書によると、アメリカでは現存の職業の約3分の2が生成AIによる影響を受けると見られる。だが置き換えられる可能性があるのはあくまでも一部業務(25〜50%)。逆にAIの活用によって労働生産性が向上し、世界の年間GDPを7%引き上げる可能性もあるという。

では、どのような職業が最も影響を受けやすいのか。アメリカでは事務・管理支援職が最も影響を受けやすい職業で、業務の46%が自動化されると見込まれる。法務職、建築設計・エンジニアリング職も、それぞれ44%と37%で続いた。

ヨーロッパでも事務・管理支援職が最も影響を受けやすく、業務の45%が自動化される可能性がある。一方、多くの肉体労働を要する職業は影響を受けにくいという。【3月30日 冨田龍一氏 Newsweek】
********************

チャットGPTを開発した米オープンAIなども、従来の業務にかかる時間がどの程度減らせるかに着目した論文を公表しています。

その論文では、アメリカの労働者の約19%が、業務の半分以上をより短い時間でこなせるようになるとも指摘。

科学やクリティカルシンキング(批判的思考)などの能力はAIの影響を受けにくいものの、プログラミングやライティング能力は影響を受けやすいと分析しています。

業種別では、会計士、数学者、通訳、記者などの職種がAIの影響を受けやすい一方、調理師や皿洗いなどの業種は影響を受けにくいとの見方を示しています。このあたりは、前出ゴールドマン・サックス予測と同じような結論です。

多くの人の仕事がAIに取って代わられるとなると、深刻な社会問題を引き起こします。AIにとってかわられた人の生活をどのようにぎ補償するのか?

****AI化が進むと大量のベーシックインカムが必要になる 専門家が未来予想****
(中略)そして「将来は、AIがAIを監視する世の中になり、人の役割が減り、人間が余ってくる。そうなると、仕事のないために、人口の多い国などは特に大量のベーシックインカム(国が最低限の所得を補償する制度)が必要になる。むしろそれが問題です」と締めくくった。【3月30日 ニッポン放送 NEWS ONLINE】
*****************

もちろん、ベーシックインカムについては、労働意欲への影響といった根本的な疑念もあります。また、経済政策上の問題として、膨大な財政支出がハイパーインフレーションを惹起するのではとの指摘も。

【生成AIが生む偽情報・プロパガンダも AI開発の一時停止を求める動きも】
話をチャットGPTに戻すと、こうしたAIは“もっともらしい”偽情報、ときにプロパガンダをまき散らす・・・との批判もあります。そうした懸念から開発の一時停止を求める動きもあります。

****チャットGPTなどAI開発激化…“一時停止”求め署名活動 マスク氏らも賛同****
対話型の自動応答ソフト「チャットGPT」の登場以降、IT大手によるAIの開発競争が加速する中、開発を一時停止するよう求める署名活動がアメリカを中心に広がっています。

AIを巡っては「チャットGPT」の開始以降、開発競争が加速していて、グーグルも先月、新たなAIサービスを発表、メタも近く利用者を限定してサービスを開始することを明らかにしています。

こうした中、署名活動はAIのリスクなどについて研究する非営利団体が、チャットGPTの最新システム「GPT-4」より高度なAIの訓練を少なくとも6か月間、停止するよう求める書簡を公開し賛同者を募っているものです。

書簡では「情報網をプロパガンダやウソで溢(あふ)れさせてよいのか。高度なAIの開発はリスク管理が可能だと確信できた場合のみ行われるべきだ」と訴え、開発を一時停止できないならば政府が介入する必要があるとしています。

署名にはこれまでに起業家のイーロン・マスク氏や、アップルの共同創業者など1300人余りが名を連ねています。

マスク氏は「チャットGPT」を開発する「オープンAI」の設立に関わっていましたが、方針の違いから今の経営陣とは距離をとっているものとみられ、アメリカメディアによると先月、「AIは人類最大の脅威の1つになる」などと話していました。【3月30日 日テレNEWS】
********************

【国民監視に使用されるAI顔認証技術 輸出管理の動き】
議論をAIということに広げると、AI技術は顔認証という監視技術を高め人権侵害を助長するという側面もあります。

****発達する「顔認証技術」が、権威主義国により人権侵害に使われてしまう懸念****
東京大学先端科学技術研究センター特任講師の井形彬が2月27日、ニッポン放送「新行市佳のOK! Cozy up!」に出演。技術が世界的にも発達している日本の顔認証について解説した。

世界的にも発達している日本の顔認証技術
新行)日経新聞に、このような記事が掲載されています。
『顔認証で本人確認 日立とパナソニックコネクトが協業 高い安全性、世界に対抗』〜『日本経済新聞』2023年2月27日配信記事 より

日立製作所とパナソニックホールディングス傘下のパナソニックコネクトが、商業店舗などに向けて顔認証技術を使った本人確認サービスで協業するというニュースです。

スマートフォンなどで顔や証明書などを登録すれば、店舗やホテルなどで入場や即時決済など、いろいろなサービスを「顔パス」で受けられるというものです。2023年度中の事業化を目指すということですが、どうご覧になりますか?

井形)便利ではありますし、すごいなと思います。日本は顔認証の技術が発展しているのです。(中略)定期的に、国際的な企業の顔認証が「どのくらい正確に素早く認証できるか」というランキングがコンペティションのように行われているのですが、日本企業はいつも1位を獲っているのです。

顔認証等、個人を特定できる技術が権威主義国によって人権侵害に使われてしまう懸念
井形)その一方で、「怖いな」と思う一面もあります。国際社会では、顔認証を始めとした個人を特定できるような技術が、権威主義国によって「人権侵害に使われてしまうのではないか」と懸念されているのです。(中略)

具体的には、新疆ウイグル自治区で監視カメラに映され、「この人は九十数%の確率でウイグル人だ」と判明すると、急に警察の方が「お話を伺いたいのですが」と来る。そういう形で使われているのではないかというような疑義も出ています。(中略)

いま欧米諸国では、人権侵害に使われてしまうかも知れないような顔認証の技術や製品に関しても、みんなで輸出管理し、新たな枠組みをつくっていこうという動きが進んでいます。

新行)悪用される可能性があるところには輸出しないということですか?
井形)いままでだと、ミサイルや兵器に対する輸出管理はあったのですが、今回、人権侵害に使われそうなものも輸出管理していこうという話が出ています。それくらい顔認証技術の影響力が大きいと判断され始めたのだと思います。【2月27日 ニッポン放送NEWS ONLINE】
********************

上記記事にある「顔認証技術の輸出管理」についてのアメリカの動き。

****監視技術を輸出規制へ米政府が「行動規範」まとめる…顔認証など悪用の恐れ****
米政府は29日、人権侵害に悪用される恐れのある監視技術の拡散を防ぐ国際的な「行動規範」をまとめたと発表した。米主導の輸出管理枠組みには日米英独仏や韓国など計22か国が参加し、中国やロシアなどを念頭に輸出規制に向けた取り組みを進める。

AI(人工知能)による顔認証や監視カメラなどの技術が、強権的な国家による人権侵害に悪用されることを防ぐ狙いがある。

行動規範に法的拘束力はないが、参加国はこれに基づき、輸出規制の強化を進める。米政府高官は記者団に「輸出管理体制に人権の基準をさらに組み込むことを意図している」と説明した。

また、日米など36か国が中心となり、政府が監視技術を使用する際の指針も策定した。「監視技術を抑圧に使う政府との違いを明確にする」(ホワイトハウス)のが目的だ。監視技術を巡る取り組みは、第2回民主主義サミットでも協議される。

このほか米英仏など11か国はスマートフォンなどから情報を抜き取る「スパイウェア」の利用規制に向けた共同声明をまとめた。バイデン米大統領は29日、スパイウェアについて「世界中の反体制派や活動家、ジャーナリストを標的に悪用されている」と指摘した。【3月30日 読売】
*******************

【AI技術は戦争になくてはならないものに】
人権侵害を超えて、戦争では今やAI顔認証技術が生死に直接的に関わっています。

****AI技術は戦争になくてはならないものに****
部谷)日本は「AIの軍事利用は危険だ」と言っていますが、ウクライナを見れば顔認証AIなど、AIを使いまくっています。

飯田)敵味方識別など。

部谷)捕虜や亡くなった兵士を顔認証し、「これはロシア軍の兵士だ」とサイバーアタックした情報と結びつけ、遺族に電話して士気を落とそうとするのです。(中略)

顔をあてると四角形が出て、体温を測る測定器がありますよね。「物体検出」と言いますが、あの技術を応用して戦場に戦車が何台いるのか、どんな方向から来ているかなどを機械に学習させるのです。(中略) ドローンで撮った映像をAIに勉強させて。

画像認識もAIに学習させて精度を上げることができる
飯田)敵味方の識別や、どこに何があるかという画像認識も、画像があればAIが勝手にやってくれるのですよね。

部谷)AIの方が得意です。パッと見て、「いまここに何台あって何人がいる」など、人間の目でわからないところも見つけてくれるのです。

飯田)それが正確かどうかは、経験を積み重ねるほど精度が上がっていく。

部谷)そうですね。試行錯誤して学習させたら。【3月30日 ニッポン放送NEWS ONLINE“ドローンは現代の「火縄銃」 ウクライナでの戦闘にみる「ドローンの重要性」】
**************************

デジタル後進国・日本では軍事面でもAIとかドローンといった技術の利用が、法規制の問題などもあって、他国に比べて大幅に遅れていることは多くの指摘があるところですが、その話は長くなるのでまた別機会に。

コメント
  • X
  • Facebookでシェアする
  • はてなブックマークに追加する
  • LINEでシェアする