デジタル社会の盲点と危険な依存

驚異的なシステム障害

世界的な大規模システム障害は、

運輸や金融といった基幹インフラ

に打撃を与えたほか、病院や政府

機関にも影響が出て、7/20も一部

で、余波が残ったが、混乱は収束

へと向かった。

 

原因となったセキュリティソフト

を提供する、

「米IT企業クラウドストライク」

は、＜前例のない規模＞の復旧

作業を急いだ。

 

また、航空情報サイト、

「フライトアウェア」

によると、7/19には世界で4万

便超が遅延し、5千便以上が欠

航した。

 

そんな中、日本国内の空港では

7/20、概ね通常通りの運航に

戻った。

 

そもそも、障害は、米IT大手

マイクロソフト(MS)の基本

ソフト(OS) Windows搭載の

システムで発生した。

 

原因は、クラウドストライクの

「ソフトの更新プログラム上の

　欠陥」

であった。

 

とは言え、今回の大規模障害は、

ITサービスを一握りの企業に

頼る脆弱性をあらわにした。

 

この脆弱性により、

7/26に開幕したパリ五輪の各国

選手団の到着便やユニフォーム

の配送に影響したほか、

米国の一部で緊急通報にも影響

が出た。

 

この混乱で、7/19のニューヨーク

株式市場では、主要な株価指数が

下落し、クラウドストライクの

株価は前日比で11%以上急落した。

 

現在、クラウドストライクの

ソフトは、サイバー攻撃への

先端的な対策とされ、各国の

名だたる大手企業が採用して

いる状況である。

 

その1社である、MSの最高経営

責任者(CEO)は7/19、自身のX

(旧ツイッター）に、

「問題を認識している。

　クラウドストライクや業界

　全体と緊密に連携して、顧

　客のシステムを安全に復旧

　する支援をしている」

と投稿した。

 

大混乱の中、クラウドストライク

は、問題を特定して修正を適用し

たという。

 

とは言え、今後、各社でセキュリ

ティー対策の見直しが進む可能性

が大いにある。

 

クラウドストライク

花形が失墜

「顧客、旅行者等、障害の影響を

　受けたすべての人に深くお詫び

　する」

クラウドストライクの最高経営

責任者(CEO)は、障害発生後の

7/19朝、米NBCテレビに出演し、

やつれた表情で陳謝した。

 

その日のうちに、株価は急落、

2011年の設立から急成長を

遂げた、

「ソフトウェア会の花形」

が失墜した。

 

混乱を招いた今回の障害は

日本時間7/19午後に突然、

始まった。

 

クラウドストライクが

セキュリティソフト、

「ファルコン」

の更新作業を始めた直後、

米マイクロソフト(MS)の

Windowsを搭載したパソ

コンなどに異常が出始め、

画面が青くなり、動作し

なくなる現象が頻発した。

 

特に、航空会社への影響が

顕著であった。

 

要因はサイバー攻撃への

防御力を高めるため、通

常行っている更新作業の

プログラムにバグがあった

ためである。

 

「1回のアップデートが

　世界中の多くのウィン

　ドウズシステムをダウ

　ンさせた」

と、MS関係者は話した。

 

一気に拡大

ファルコンは、パソコンなど

の端末をサイバー攻撃から守る、

「エンドポイントセキュリティ」

と呼ばれる機能を持つ。

 

この機能は、端末の不審な動作や

通信を、クラウドを通じて常時

監視し、被害を最小限に抑える

仕組みである。

 

現在では、当たり前のことだが、

新型コロナウイルスの世界的

な流行以降、外部からVPN

(仮想専用線)機器を使って

システムに接続するリモート

ワークが増えた。

 

この接続の欠陥を狙って、

身代金要求型ウイルス

「ランサムウェア」

などに、感染させるサイバー

攻撃の被害が拡大し、端末側

でのセキュリティ対策を後押

しした。

 

クラウドストライクは、この

波に乗って顧客基盤を拡大、

世界の大企業など3万近くを

抱えるトップクラスのセキュ

リティー企業に成長したので

ある。

 

このように、顧客側が少数の

IT企業への依存を高めたこと

で、障害の規模が一気に拡大

した。

 

本来、サイバー攻撃を防ぐ取り

組みが、逆に攻撃を受けたかの

ような大規模な障害を招く結果

となった。

 

VPNとは？

VPNとは、

「Virtual Private Network」

の略称で、日本語にすると、

「仮想専用通信網」

を意味する。

 

VPNで、インターネットに

接続することを、

「VPN接続」

と言うが、この場合、専用

ネットワークとは言いつつ

も、物理的な専用回線を

持つのではない。

 

「仮想」専用通信網と言う

ように、共用の回線を諸々

の技術によって、仮想的に

独立した専用回線であるか

のように扱うのがVPN接続

である。

 

例えば、共用回線を通常通り

に使うことは、社車が一般道

を通って移動する事と同義で

ある。

 

車が一般道を通る場合、他車

と共有して走るものであるため

コストが割安で済むが、その分、

信号機や踏切といった車の停止

をさせられたり、人身事故と

いったアクシデントに遭遇した

りする。

 

この負の出来事をウイルス攻撃

と考えれば、常にウイルス感染

の可能性が存在しているので

ある。

 

一方で、物理的な専用回線を

引くことは、極秘の私道を

自社用に作り、それを用いて

必要な移動をする事と同義で

ある。

 

これは非常に安全で快適で

あるが、実現するためには

多額のコストが必要となる。

 

そういう意味では、現実的

ではない。

 

これに対して、VPN接続は、

公共の高速道路を自家用車

で移動する事と同義である。

 

高速道路自体は共用のもの

であるが、車内という一定

空間において、そのプライ

バシーやセキュリティは

ある程度確保される。

 

しかも、一般道と違って、

信号機はない上、速度は

ある程度出せるし、人身

事故を起こす可能性は

非常に低いのである。

 

前述したように、信号機

がないこと、人身事故と

いうアクシデントがない

ことは、ウイルス感染の

可能性が小さくなる、と

考えるべきである。

 

勿論、コストも低く抑え

られるので現実味がある。

 

つまり、VPN接続は、物理

的な専用回線を引くよりも、

コストを抑えることができ、

共用回線を普通に使うより

もウイルス感染が少ないため、

安全性を担保できるのである。

 

それ故、VPN接続は、公共の

Wi-Fiを利用する場合や複数の

拠点でLANを接続する場合に、

通信環境の安全性を強化する

目的を最優先にして使用され

るのである。 

 

 

MSクラウド不具合

各国の報道によると、

 

アメリカン航空やデルタ航空

など、米国の大手航空会社は

7/19、通信障害を理由に早朝

から運航を見合わせた。

 

ドイツの空港でも、航空機が

一時発着できなくなったほか、

トルコ航空は80便以上の運航

を取りやめた。

 

アラブ首長国連邦(UAE)の

ドバイ国際空港でも複数の

航空会社のチェックイン

システムに影響した。

 

英国ではエディンバラ空港の

搭乗ゲートに不具合が発生した。

病院では患者の情報にアクセス

できず、診察に影響した。

また、民放スカイニューズ・

テレビの放送が一時中断、という

状況となった。

 

オーストラリアでは、

公共放送ABCのテレビ放送で

一時映像が流せなくなった。

 

インドやシンガポールなどの

アジア諸国でも様々な被害が

出た。

 

不具合の影響は、日本国内にも

拡大した。

 

各地の空港などでは乗客が困惑

する様子が見られた。

 

成田空港では7/19午後、不具合

の影響で搭乗手続き等に関する

システムに障害が発生。

 

成田国際空港会社などによると、

少なくとも航空会社5社の運航に

影響が出た。

 

関西国際空港でも、搭乗手続き

が遅れ、多くの利用客で混み

合った。

 

羽田空港では複数の航空会社の

システムに障害が発生した。

同空港のデルタ航空の出発カウン

ターでは午後6時半過ぎ、ハワイ

・ホノルル行きの便に乗るはず

だった人たちの列ができていた。

 

格安航空会社(LCC)ジェットスター

・ジャパンは、搭乗手続きなどの

システムに障害が生じたと明らか

にした。

 

関空のジェットスターのカウン

ター前ではスタッフからの説明

を待つ客が列を作った。

並んでいた男性は

「便が突然キャンセルになっ

　た。何があったのか分から

　ない」

と途方に暮れていた。

 

日本航空(JAL)でも予約管理シ

ステムに障害が生じた。

国際線では航空券の新規予約

や購入、取り消しなど全ての

サービスが同社サイト上で使

えなくなった。

 

一方、コンビニの大手である

セブンーイレブンやファミリー

マートでは、

全国的にプリペイドカードや

電子ギフトカードを販売しづ

らい状況が発生した。

 

関西ではJR西日本で、午後2時

22分からアプリやホームページ

上で列車の走行位置を確認できる

システムで障害が発生した。

一部エリアで走行位置が確認でき

なくなった。

 

ユニバーサルスタジオジャパン

(USJ)でも午後2時頃から、販売

情報を管理するPOSシステムに

障害が生じ、園内にある9割以上

のレストランや物販店で会計でき

ない状態が続いた。 

 

デジタル化の弱点

米IT企業「クラウドストライク」

のソフトウェアの一瞬のトラブル

が、利用者の多い基本ソフト(OS)

のWindowsを通じて、世界を瞬く

間に混乱に陥れた。

 

その混乱は、各国の航空運航の停止、

病院や行政サービスも滞る事態へと

発展した。

 

史上最大級との指摘もある、今回

のシステム障害は、世界の大企業・

組織が一部のIT企業に依存する、

というデジタル社会の危うさを

露呈する結果を招いた。

 

深井ITゼミナール

 

 

司法のAI活用は可能か？

生成AIルール追い付かず

人工知能(AI)を使って文章や

画像を自動作成する「生成AI」。

 

その革新的な技術を使ったサー

ビスが、成長産業として加速度

的に広がる中、社会のルールが

追いついていない現状が浮き彫り

になっている。

 

例えば、

「著作権は誰に帰属するのか？」

「資格を必要とする業務を委ねる

　場合、法に触れないのか？」

このように、従来の枠組みが翻弄

される状況に、有効活用に向けた

指針の再構築が課題となっている。

 

司法のデジタル化、指針策定

司法のデジタル化は、

法律相談など活用を期待する、

といったプラス面、

一方で、弁護士法抵触の恐れ、

といったマイナス面、

がある。

 

そんな中、現在も紙資料が主流

の司法業界に、デジタル化の波

が寄せ始めている。

 

民事裁判をIT化する

「改正民事訴訟法」

が1昨年成立したのを

機に、デジタル技術を

活用した司法関連サー

ビスを提供する

「リーガルテック」

企業が登場。

 

成長分野として注目され

ているが、既存の制度と

の衝突や混乱を招く恐れ

もあり、法務省は

「リーガルテック」

に関する指針の作成を

急いでいる。

 

生成AIを活用した法律

相談のイメージを以下に

示すと、

＜日本の法律では、

　配偶者から受け

　た言葉の暴力に

　よる精神的苦痛

　が重大である場合、

　離婚の原因となる

「精神的不和」に

　該当することが

　あります。＞

パソコンの画面に

＜離婚を考えています＞

＜パートナーからの言葉

　の暴力がひどい＞

と打つと、上記のように

法律の専門家のような

メッセージが返ってきた。

 

対話型AI「チャットGPT」

を法律相談用に調整した

サービスで、過去の100

万件以上の相談内容を読み

込み、新たな質問に対する

回答を編み出しているので

ある。

 

また、同時に弁護士業務を

手助けするサービスも拡大

している。

 

具体的には、契約書の

「AIレビュー(審査)」

支援サービスで作成中の

契約書をシステムに読み

こませると、

＜損害賠償の上限額は

　定められていますか？＞

など、注意するポイント

が表示される。

 

人間が見落としがちなミス

を見つけてくれることで、

業務を効率化できるので

ある。

 

先進的なビジネスを担当

する政府の規制改革推進

会議の部会が1昨年、

成長産業としてヒアリング

対象とするなど、国からも

注目される、

「リーガルテック」

このサービスは、将来的には

準備書面の下書きや判例など

の下調べを担い、弁護士業務

の効率化に貢献できるように

なるだろう。

 

一方で、課題もある。

 

弁護士法では、弁護士資格の

ない者が報酬を得て具体的な

法律相談を行うことは、

「非弁行為」

として禁じられている。

 

一般人相手に有料で裁判書類

を作成するなど、

「リーガルテック」

のサービス内容が弁護士業務

に近づくほど、非弁行為と

判断される可能性は高まる。

 

法務省によると、既存のサー

ビスが明確に法律に反して

いるとする報告は、現在は

ないが、将来を見越し、

「リーガルテック」

に関する法解釈を整理する

指針の策定を進めている。

 

同省の担当者は

「リーガルテックは業務効率化

　による法務人材の人手不足

　解消にもつながる可能性も

　あり、引き続き注目して行く」

と話す。

 

著作権侵害、米で訴訟相次ぐ

生成AIをめぐる訴訟が米国で

相次いで起こされている。

 

原告は自分の作品が生成AIに

無許可で使用され、著作権が

侵害されたと訴えている。

 

訴訟の行方が生成AIの利用

範囲や著作物の扱いをめぐる

議論に影響を及ぼす可能性が

あり、注目されている。

 

在米アーティストのD氏は、

1昨年仲間と3人で画像生成AI

「ステーブル・ディフュー

　ジョン(SD)」

を開発した英企業を、著作権

侵害で西部カリフォルニア州

の連邦地裁に訴えた。

 

SDは、利用者が作りたい画像

の作風や模倣したい作家名など

を入力すると、SDが「学習」

済みのデータから新たな画像を

生成する。

 

訴状によると、英企業はドイツ

の非営利団体が研究目的で集め

た約60億の画像や文字データの

大半をSDに学習させたが、その

データにD氏の作品が断りなく

使われていたとしている。

 

米著作権法は、教育や研究など

一定要件を満たした場合、

「著作権侵害」に当たらない、

とする「フェアユース(公正な

利用)」を認めている。

 

一方で、ドイツの団体のデータ

を営利企業が利用したのは、

「脱法的」

とも指摘されている。

 

D氏は米紙への寄稿で、

「模倣作品には私の作風の

　特徴があった」

と述べ、補償を求めた。

 

英企業を巡っては米写真配信

大手も昨年、無断で1200万枚

以上の画像を使用されたとして、

東部デラウェア州の連邦地裁に

提訴した。

一方で、米メディアによると、

欧米の規制当局は、利用者が

詳細に指示し、生成AIが作成

した「作品」について、利用

者の権利を認める方向である。

 

人が独自性を引き出そうと知的

な努力を重ねた「作品」に関わ

る権利は、完全にコンピューター

が作った「AI生成」作品とは、

区別すべきだとの議論が優勢だ

という。

 

ただ、AI規制新法の制定へ動く

欧州連合(EU)が原案を2021年

にまとめた際には、SDや対話型

AI「チャットGPT」の利用が、

これほど早く広がると想定されて

いなかった。

 

生成AIを巡る日本の著作権保護に

ついては、AIが学習に用いる

データの保護法制が、他の先進国

に比べ非常に緩いと指摘する

専門家が多い。

 

司法のAI活用、初指針

政府は契約書審査の触法範囲

を示した。

 

その流れを以下に示すと、

政府は1昨年、デジタル技術を

活用した司法関連サービス

「リーガルテック」

に関する指針を初めて公表した。

 

人工知能(AI)を用いて契約書を

作成・審査するサービスについ

て、法律に抵触するケースを

整理し、経済の成長分野として

発展を促す狙いがある。

 

サービスの進展に伴い、指針の

改定も視野に入れている。

 

AIによる契約書審査サービス

などを巡っては、弁護士資格

のない者が報酬を得る目的で

弁護士と同等の業務を行う

「非弁行為」にあたる可能性

がある、との指摘も出ていた。

 

今回の指針では、非弁行為の

可能性があるケースについて、

➀報酬を得る目的で、

➁具体的な法律上の争いがある事件

　に関し、

③鑑定する、

　(法律上の専門知識に基づき見解

　を述べる)ー

という3つの条件を全て満たす場合

だと整理した。

その上で、➀～③すべてに該当

しても、企業に雇われた弁護士が

サービスを利用する場合は問題ない、

とした。

指針に従えば、具体的な法律上の

争いがない状況で作成されること

が多い企業間の一般的な契約書では、

現行のAIによる審査サービスが違法

性を問われることは基本的にないと

見込まれる。

 

一方で、訴訟中の企業との和解契約書

などの場合には、具体的な法律上の

争いがあるため、弁護士法が禁じる

「非弁行為」に該当する可能性がある。

 

会見で法相は、

「リーガルテックの健全な発展に

　繋がると期待する」

と述べた。

「混乱解消」業界関係者は安堵

AIを活用した契約書の審査サービス

を巡り、弁護士法に抵触しない範囲

が明示されたことで、業界関係者は

「混乱が解消される」と胸をなで下ろ

している。

 

法務省関係者によると、1昨年に新規

参入する業者からの問い合わせに対し、

同省が、

「違法の可能性がある」

と回答したことで、既存サービスまで

「違法ではないか」

との風評が広がった。

 

弁護士側からも、弁護士資格のない

AIが関与できる範囲を広げると、

「無資格のブローカーが法律上の

　トラブルに関与する余地ができる」

との懸念が寄せられていた。

 

一方で、政府の規制改革推進会議は、

昨年6月、改革の一環で、リーガル

テックに関する指針策定を提言。

結果として、法務省は業者や弁護士

からの不安の声や、契約書のAI審査

だけで数千以上の企業が利用する現状

も考慮し、詳細な内容の指針を公表

するに至った。

 

将来、裁判書類の下書きも可能!

政府が、今回公表した

「リーガルテック」

に関する指針は、一部の例外

を除き、現在、提供されてい

るAIを活用した契約書の作成・

審査サービスに

「問題はない」

とするものである。

 

とは言え、リーガルテックは

世界的にも発展途上で、今後

は最先端のサービス開発競争

が国内でも本格化しそうで

ある。

 

そんな中、

指針の公表を受け、契約書の

AI審査支援サービスを展開

する弁護士は以下のように

期待を口にした。

 

「新しいリーガルテックに

　企業が挑戦し、利用者が

　活用しやすい環境が整っ

　た。」

司法分野へのデジタル技術

適用を巡っては、以前から

判例のネット検索、

弁護士検索、

などがあったが、最近はAIの

導入事業者がしのぎを削って

いる。

 

その代表例と言えるのが、

AIの契約書審査支援である。

 

契約書を読み込ませると、

＜損害賠償の範囲に弁護士費用

　が明記されていません＞、

などと指摘し、修正案の提案や、

契約の更新期限を知らせたり

する。

 

これは、主に企業の法務部門で

活用が広がりつつある。

 

現行のサービスでは限定的な

機能が中心だが、

業界関係者は、

「契約書や裁判の準備書面の

　下書き作成、判例の収集・

　分析など、AIを活用する

　範囲が広がってくることが

　見込まれる」

　と将来図を描く。

 

そもそも、司法分野はAIの

活用に親和性が高いとされ

てきた。

 

その理由は、AIの性能向上

には膨大なデータが欠かせ

ないが、判例や学説を中心

に司法分野に膨大な

「文字データ」

の蓄積があるからである。

とは言え、現状は「紙」が

中心であるが、政府は今後、

民事訴訟の全判決文をデジ

タル化し、データベースを

構築する計画を進めており、

環境が整えばリーガルテック

は、さらなる向上が見込める。

 

それ故、法務省幹部は

「国際競争力の向上にもつな

　がるので、成長産業の健全

　な育成に協力して行きたい」

と話す。

 

深井ITゼミナール

 

 

デジタル化の未来都市

デジタル化の革新とリスク

人類の繁栄を牽引してきた空間は

都市である。

 

技術や社会を変革し、時代を動か

す原動力を生み出してきた。

 

近年はデジタル技術で都市を刷新

する試みが世界で加速しているが、

そこには新たなリスクが潜んで

いる。

 

現代文明の礎は何処に？

文明は約5000年前に古代メソポタ

ミアの都市で誕生した。

 

文字、暦、数学、法律、車輪、冶金

など現代文明の礎はいずれも都市で

生まれたものだ。

 

なぜ都市が重要なのか？

 

それは人が集まることで、技術や

社会にイノベーション(革新)が

起きるからだ。

 

多様な人々が交流すると異なる

知識が結合し、新たな発想や

技術が生まれる。

 

車輪と馬が結びついて馬車が

誕生したのが典型であろう。

 

都市は産業や経済だけでなく、

文化や学問の中心地でもある。

 

情報の共有と蓄積で教育や医療

も向上し、多くの人を引きつけ、

さらに繁栄して行く。

 

この構図は現代も変わって

いない。

 

都市の形成は、技術革新の

歴史と密接に関わっている。

 

大型帆船が登場した大航海

時代は貿易拠点として港湾

都市が栄えた。

 

産業革命によって農村から

工場に人々が移動し、鉄道

や自動車の普及で都市は郊外

に拡大した。

 

高層ビルが立ち並ぶ近代都市は

鉄骨とエレベーターによって

誕生した。

 

故に、テクノロジーは都市の

興亡を左右すると言える。

 

現代は都市に住む人が急増して

おり、世界人口に占める都市人

口の割合は、2050年までに70

%近くに達する見通しだ。

 

そんな中、途上国で深刻な交通

渋滞や環境汚染が懸念される。

 

また、先進国では地球温暖化

への対応が急務で、省エネで

持続可能な都市への変容が

求められている。

 

こうした都市問題の解決手段と

して浮上したのがデジタル技術

である。

 

インターネットや人工知能(AI)

を駆使し、都市をより効率的で

便利な空間に変える動きが世界

中で広がっている。

 

データの宝庫

都市のデジタル化は、

「スマートシティ－」

と呼ばれる。

 

内容は地域によって異なるが、

日本総合研究所の主任研究員

のA氏は、

「デジタルの技術や道具を賢く

　使って、暮らしやすく、持続

　可能な社会を構築する取り組

　みだ」

と解説する。

 

代表的なスマートシティーは、

全てのものをインターネット

に繋ぎ、都市にセンサーを

張り巡らせる。

 

人の活動や交通、環境、イン

フラ設備などのデータをリア

ルタイムで大量に収集し、AI

で分析して都市全体の機能を

最適な状態に制御する構想だ。

 

例えば、信号の制御で交通渋滞

の緩和や物流の効率化につなげ

たり、電力のデータを省エネや

安定供給に役立てたりする。

 

センサーで大気汚染や災害の発生

を監視するほか、ゴミの量を自動

的に感知して効率的に収集できる

ゴミ箱や、銃撃音を検知すると

警察が急行する防犯システムも

ある。

 

A氏は、

「都市はデータの宝庫である。

　企業や自治体のデータも資

　源として活用すれば、医療

　や産業などさまざまな分野

　で改善策が見えてくる。

　人の生き方も変えるだろう」

と指摘する。

 

欧州や米国では既存の都市を

基盤とするスマートシティー

が多いが、中東や中国では

新たに建設する都市に導入

するケースが目立つ。

 

いずれも経済のグローバル化

が進む中、魅力を高めて都市

間の国際競争を勝ち抜く狙い

がある。

 

現在のところ、日本は出遅れて

いる、と揶揄されている。

 

サイバー攻撃の懸念と現実

スマートシティーは交通事故

や災害を抑制する反面、大き

なリスクを新たに抱えこんで

いる。

 

データ流出や故障によるシス

テム障害の他、最も懸念され

るのはサイバー攻撃による

インフラの連鎖的な被害だ。

 

従来の都市は電力や交通など

インフラを別々のシステムで

管理するが、スマートシティー

では、これらを繋いで全体の

効率化を目指す。

 

このため、どこかに攻撃を受

けると全てのシステムに障害が

波及し、全体の機能がマヒして

しまう恐れが高まる。

 

この脆弱性がサイバー戦争で

狙われる可能性がある。

 

北大西洋条約機構(NATO)などの

サイバー防衛協力センターは

2020年の報告書で、

「スマートシティーへのサイ

　バー攻撃が安全保障上の

　重大な脅威になる」

と指摘し、30年に起こりうる

シナリオを示した。

 

それによると、

「同盟国の首都の大都市が

　サイバー攻撃を受け、

　通信システムがマヒし、

　ネットワークがウイルス

　に感染する。

　ほぼ同時に、行政のコン

　ピューターは機能しなく

　なり、衛星利用測位シス

　テム(GPS)は切断されて

　しまう。

　都市人口の半数で電気と

　水道が止まる中、運河と

　ダムの制御システムが

　ウィルスに操作され、

　大規模な洪水が発生する

　深刻な事態に発展する。」

 

報告書は、

「今後10年間で、欧米の自治

　体の大半がスマートシティー

　を導入するだろう。

　地域を超えてシステムが繋が

　ると、複数の都市が同時に

　被害を受ける可能性が高い」

と警告した。

 

スマートシティーの課題は

他にもある。

 

それは、収集したデータの

権利やプライバシーの問題

である。

 

以前に、企業側が収益確保の

ためデータの利用を拡大しよ

うとして住民側の反発を買い、

計画が中止に追い込まれた

ケースがある。

 

一方で、AIによる省エネは、

スマートシティーの売り物

だが、AIはコンピューター

の消費電力が膨大なため、

それを含めると本当に省

エネになるのかは不透明

である。

 

未来の実験場

スマートティーは「都市OS」

と呼ばれるデータの連携基盤

が重要な役割を果たす。

 

PCでいえば、基本ソフト(OS)

のWindowsに相当するもので、

これを普及させた者が世界の

デジタル都市づくりの覇権を

握る、と言われている。

 

そんな中、つばぜり合いをして

いるのは欧州と中国である。

 

野村総合研究所のエキスパート

Ｂ氏は、

「欧州連合(EU)と中国はスマー

　トシティーの基盤技術を標

　準化して輸出したいという

　野望を持っている」

と話す。

 

背景には米国の巨大IT企業に

対抗し、その支配から逃れる

狙いもある。

 

ただ、スマートシティーの

構築には巨額の費用が必要で、

B氏は、

「問題はその投資を回収できる

　かどうかである。

　かなり難しいだろう。」

と強調する。

 

都市づくりは、これまで

建築家や建設会社が手掛

けて来たが、

「スマートシティー」

時代の到来で、IT企業の

影響力が強まる地殻変動

が起き始めている。

 

IT企業は、都市空間をデジ

タル空間に再現することで

支配領域に取り込み、将来

は、都市開発の主導権を握る

可能性が大きい。

 

都市には、

「人口集中による変革」

の利点、

「密集に伴う環境汚染」、

「感染症」

などの弊害、

が古代から常に併存して

いる。

 

新型コロナウイルスの

大流行で、都市の弱点が

露呈し、テレワークの

実施で人口集中が緩和

されたが、

「スマートシティー」

の導入が加速すれば

人口密度が逆に高まる

に違いない。

 

都市は革新技術が投入

される場であり、今後

も、イノベーションの

舞台となることは間違い

ない。

 

人類は直面する課題を

デジタル技術で克服

できるのか？

 

スマートシティーが、

その壮大な実験場に

なることは明確である。

 

 

＜未来の都市＞

 

深井ITゼミナール

 

人間か、それとも生成AIか？

文章の指紋で判別

生成人工知能(AI)「チャットGPT」

が作成した日本語の文章と人間が

書いた文章は、犯罪捜査に使われる

統計的手法を使うと正確に見分け

られることが昨年、犯罪心理学の

A氏の研究で分かった。

 

その内容は、米科学誌「プロスワン」

オンライン版で発表された。

 

チャットGPTを使えば、日本語でも

自然な文章を作成できることから

学術論文やインターネット上での

なりすましなど、不正利用への

懸念が指摘されていた。

 

その懸念を払拭する研究だが、

英語での判別方法に関する論文は

あるが、日本語では始めてとなる。

 

具体的に述べると、

A氏は、文章を品詞分解して、

「助詞の使い方や読点＜、＞

　の打ち方」

など、特徴を統計的に解析する、

「計量文体学」

の知見を活用し、

心理学に関する日本語の論文72本

について、チャットGPTに、

「同じタイトルと分量で論文を

　書いてください」

と依頼し、比較した。

 

その結果、

➀隣り合う品詞の組合せ、

➁助詞の使い方、

③ 読点の打ち方、

④「また」・「この」といった

　単独で意味を持たない単語

　の割合、

の4つの尺度で分析すると、チャット

GPTと人間の文章には統計的に明確な

違いがあることが浮き彫りとなった。

 

こうした違いをAIに学習させ、

読点の打ち方に着目して論文を

判別させると93.5%、

4つの尺度すべてを総合して判別

させると100%、

見分けることができた。

 

例えば、チャットGPTの文章では

➀「○○が、～が・・・」という

　並びが目立つ傾向があるほか、

➁助詞「は」の後に読点が打たれ

　やすいこと、

③「本論文は」など「本」という

　　接頭語が使われやすいこと、

が分かった。

 

A氏は科学捜査研究所の元主任研究官

で、脅迫や誹謗中傷などの文章を書い

た人物を特定する鑑定業務に従事した

経歴を持つ。

 

A氏は、

「チャットGPTが作成した文章は自然

　だが、人間が読んでも一見気づかない

　ような＜文章の指紋＞をあぶり出す

　ことで、ほぼ正確に人間の手による

　ものか否かを見分けられる」

と話す。

 

不正や犯罪などの抑止に希望

質問・依頼・指示に対して、人間が

書いたような自然な文章を生み出す

ことができる生成AI「チャットGPT」。

 

公開から1年足らずで世界中に利用者

を広げ、日本でも社会現象になって

いる。

 

業務効率化をはじめ多分野での活用が

期待される一方、誤った情報の拡散や

論文・試験での不正利用、犯罪への

悪用など「もろ刃のリスク」も兼ねて

指摘されている。

 

チャットGPTは米ベンチャー

「オープンAI」が1昨年に公開

したサービスで、一般向けは

メールアドレスの登録など簡単な

手続きで無料で利用できる。

 

ユーザーが質問や指示をすると、

その意図を汲み取って適切な答えを

返す。

 

人間同士のような自然な対話ができる

ことから、業務効率化のため各自治体

で導入が広がる。

 

だが、AIの急速な進化により、人間の

文章との区別はますます困難になって

いる。

 

瞬時に大量に文章を生成できる技術は、

論文の不正のみならず、フィッシング

詐欺のメール文案作成など犯罪行為に

使われる可能性もある。

 

AIの文章を見分けるのが事実上不可能

とする見方が大勢を占めつつある中、

今回の研究成果は人とAIの間に確かな

違いがあることを示した形だ。

 

A氏は、

「ブログや交流サイト＜SNS＞

　など、論文以外の文書につい

　ても検討してみたい」

と話し、A氏の判別手法の幅広い

普及に期待がかかる。

 

公募小説賞ではどう対応？

対話型人工知能(AI)「チャットGPT」

などの生成AIを活用して書かれた

小説にどう対応すべきか？

 

公募の文学新人賞や小説コンテスト

の現場で議論が始まっている。

 

自然な文章を生み出す生成AIには

執筆のサポート役として期待する

声がある一方、学習対象とする文章

など著作権侵害への懸念も残る。

 

そんな中、創作の自由とリスクの

両面を見ながら、応募規定を再検討

する動きも出てきた。

 

「チャットGPTが急速に普及して

　いる。

　作品を募る前に＜しっかり準備

　を＞という議論になった」

 

と話すのは、日本SF作家クラブの

研究者B氏。

 

同クラブとイラストや小説などの

投稿サイトを運営する会社が共催

する、

「日本SF作家クラブの小さな小説

　コンテスト」

は昨年、新しい応募規約を公開した。

 

その規約の柱は、AIで生成した作品

を応募する場合は申告するよう求め、

投稿できる数も1作に限定すること

である。

 

米国のSF雑誌では昨年、チャット

GPTを使ったとみられる作品の投稿

が急増。

編集者が対応できなくなり、投稿の

受付を一時的に停止する事態に追い

込まれた。

そんなニュースも念頭に、規約を

作成したという。

 

実際のところ、コンテストの応募で

全684作のうちAIを利用したものは

8作だった。

 

B氏は

「予想よりは少ない印象。

　今後も創作を楽しむ初心者が

　チャレンジできる環境を届け

　ていきたい」

と話す。

 

令和3年にAIを使った作品が初めて

入賞し話題となった、

「星新一賞」(日本経済新聞社主催)

も昨年、応募規定に生成AIに関する

項目を新たに加えた。

 

その項目とは、

➀利用したAIの名称を明記するよう

　求める、

➁AIが生成した文章は、人間が加筆・

　修正する、

③プロンプト(AIに対する指示)に

　既存著作物の作家名や作品名を

　入れない、

などである。

 

平成25年の開始からAIなど「人間

以外」の作品を受け付けてきた

先進性や開放性を維持しつつも、

「著作権侵害のリスクを排除し、

　利活用の透明性などを確保する

　必要があると判断した」

という。

 

応募規定に触れないケースも？

一方で、芥川賞受賞作も輩出して

きた「主要文芸誌」の新人賞は

生成AIの使用に関し、応募規定等

で触れていない。

 

「現段階の生成AIでは一定以上

　の長さの小説を、受賞に値す

　る水準まで仕上げるのは難し

　いはず。

　音楽の新楽器のように創造的に

　活用されれば、面白い小説が

　生まれる可能性もあり、現時点

　で使用を制限する考えはない」

 

と、文芸誌の編集者はそう語った

上で、

 

「創作が手軽になった結果、運営

　に支障が出るほど大量の応募作

　が寄せられるようになったら、

　賞のあり方を見直す必要がある」

とも明かす。

 

1昨年にはAI文章生成サービスを

使用した作品が対象の

「AIのベりすと文学賞」

も創設され、389作の応募が

あった。

 

運営に携わる、デジタルメディア

研究所によると、

「応募者の年齢は10代から70代

　まで幅広い」

とのことで、利用者の裾野が広が

りつつある。

 

AIに詳しい東京工業大のC教授は、

「生成AIを使う場合も、質の高い

　作品にするには命令を下す人間

　の創意工夫が不可欠。

　AIに任せきりにすれば、他の小説

　の文章を丸ごと持ってきて著作権

　を侵害する、という事態も起こり

　得る。

　使う側・受け止める側双方の姿勢、

　批評眼が重要になってくるのは

　間違いない」

　と話す。 

 

＜生成AIに生成させた内容と分析の図＞

 

深井ITゼミナール

 

 

AIが民意を支配する日

共生

「民主主義とは？」

 

  対話型人工知能(AI)「チャットGPT」

  に聞くと答えが返ってきた。

 

「民主主義は、国家や社会の政治体制

　の1形態を指す用語。

   政治的な権力を人々によって行使

   されるという原則に基づいている。」

　さらに

   [平等な参加]や[多数決による決定]

　など箇条書きで民主主義の[基本原則]

　を詳細に説明した。

　続いて、

　民主主義の[良い点]を問うと、

 「個人の自由と権利の保護」

　などを挙げ、

  [悪い点]を問うと、

「決定の遅さ」、「多数派の専制」

　などを挙げた。

 

　まるで人間が書いたような自然な

　文章である。

 

　米新興企業「オープンAI」が1昨年、

　生成AIの1種である「チャットGPT」

　を公開すると、その利便性から一気

　に世界で普及した。

 

　学生や企業は論文や会議録の作成、

　調査や翻訳など幅広い作業に活用

　する。

　業務が効率化すれば、人間は別の

　創造的な仕事に注力できる可能性

　が大きくなる。

 

　一方で、個人情報流出や著作権侵害

　のリスクも浮上した。

 

　民主主義への影響はどうか？

 

　日本の国会では野党議員がチャット

　GPTで作成した質問をし、当時の

　経済産業相は答弁作成に利用する

　可能性に言及した。

 

　米調査会社は昨年の「10大リスク」

　の3位にAIの進歩を挙げ、

「民主主義を弱体化させる」

　と警告した。

 

進化

「人は言葉を操り、思考する。

　AIもまた、言語を支配し、

　文明化へのマスターキーを

　獲得しようとしている」

　とイスラエルの著名歴史家が

　言及した。

 

　では、AIはどのように言語を

　操るのか？

 

　生成AIは膨大な情報を取り込ん

　で学習し、画像や文章などを

　生み出す。

　チャットGPTも記事や学術論文

　など幅広いテキストデータで

　学習したとされる。

 

　文章として出力する際、

　「むかしむかし」

　という言葉の後には

　「あるところに」

　と続くように、事前学習から

　確率的に最も適切と思われる

　言葉を予測し繋ぐ作業を行う

　のだ。

 

　チャットGPTは当初、学習した

　2021年までのデータ以外の情報

　に対応できなかったが、最近は

　部分的にネット検索で最新情報

　も加えて回答できるようになった。

 

　米マイクロソフトやGoogleも生成

　AIを組み込んだネット検索などの

　サービスを発表した。

 

　生成AIは刻々と進化している。

 

　問題は、質問事項に関する十分な

　データがない場合や学習に使った

　データに誤りや虚偽が含まれれば、

　回答の内容が誤ったり、偏ったり

　することだ。

 

　米マイクロソフトは16年、旧Twitter

　でやり取りできるAI「Tay」を公開

　した。

　だが、ユーザーとの会話から学習

　してヘイトスピーチを繰り返すよう

　になり、1日足らずで停止された。

 

　チャットGPTは不適切な内容を学習

　データから削除するとしているが、

　懸念は振り拭えない。

 

警戒

　AIも人間と同様に必ずしも正しい

　判断ができるわけではない。

　AIに思考まで頼り過ぎれば、一人

　一人を判断の主体とみなす民主

　主義の前提は揺らぐ。

 

　日本の人口知能学会は、昨年に

　発表した声明で

「出力したものを鵜呑みにせず、

　長短所を理解した上で利用する

　ことが大切」

　と強調した。

 

　生成AIの無秩序な開発への警戒

　も強い。

 

　米非営利団体は昨年、6ヶ月間の

　開発停止を呼びかける公開書簡を

　発表し、世界の研究者ら3万人

　以上が署名した。

 

　書簡にはこうある。

 

「やがて数で勝り、より賢く、

　私たちに取って変わるかも

　しれない非人間的な知性を

　開発すべきなのか？

　文明のコントロールを失う

　危険を冒すべきなのか？」

 

　AIは民意を「支配」するのか？

 

　チャットGPTにさらに問いかけて

　みた。

 

「生成AIが民主主義に与える悪影響

　は何か？」

 

　回答の1つがこれだ。

 

「AIによる自動化や自立的な意思

　決定が進む場合、誰が責任を持つ

　のか、誰が意思決定の最終的な

　判断を下すのかという問題が生じ、

　民主主義の原則や倫理的な問題に

　ついて再評価が求められる。」

 

　民主主義において、判断と責任の

　主体は人間でなくて良いのか？

 

　昨年開かれた先進7カ国首脳会議

　(G7広島サミット)は

　「信頼できるAI」

　の実現に向け、民主主義的価値観

　に沿った指針を策定することで

　合意した。

 

　デジタルとの共生では、発達する

　デジタル社会における政治のあり方

　や民主主義に突きつけられる課題、

　新たな可能性などについて考えて

　いく必要がある。

 

機械

「米国防総省(ペンタゴン)近くで

　爆発、黒煙」

　そんな画像が昨年、交流サイト

　(SNS)上を駆け巡った。

　旧ツイッターが信頼性を担保

　する「認証」アカウントに転載

　されて拡散し、一部メディアも

　これを引用して報じた。

 

　ニューヨーク株式市場では、ダウ

　工業株30種平均の株価が一時80

　ドル近く急落した。

 

　黒鉛に包まれるペンタゴンは、

　人工知能(AI)で生成されたと

　みられるフェイク(偽)画像で

　あった。

 

　現在AIが創出する画像や映像は、

　即座に真贋を判別できないほど

　精緻だ。

 

　AIの「技」をそこまで磨いたのが

「機械学習」だ。

 

　人間にとって「学び」をコンピュー

　ターに行わせる機械学習は、大量の

　データを読み込ませ一定の計算方法

　(アルゴリズム)に従ってデータに潜む

　パターンやルールを発見させる。

　それを新たなデータに当てはめて

　識別したり、物事を予測したりする。

 

　機械学習の中でも特に発展が著しく、

　応用が進んでいるのが深層学習

　(ディープラーニング)だ。

 

　人間の脳内で神経細胞(ニューロン)

　が連なる構造を数理的にモデル化し、

　再現した、

　「ニューラルネットワーク」

　が使われている。

 

　①データを受け取る入力層、

　②情報を受け継ぎさまざまな

　　計算を行う複数の中間層、

　③解を提示する出力層、

 

　など、多層的な構造を持つ。

　

 

深層

　例えば猫。

　それがどういうものかを教える

　のは人間ではない。

　AIが大量の画像を取り込み、

　特徴を認識し、猫を識別できる

　ようになる。

　豊富なデータ量と、コンピュー

　ターの処理能力向上が為せる

　技である。

 

　深層学習によって、画像や音声

　データの解析精度が上がり、

　人間を超えるケースが出てきた。

 

　画像から病気を発見したり、

　コンクリートの劣化を判定

　する。

 

　2017年には、深層学習を用いた

　Googleの囲碁AI

　「アルファ碁」

　が、人類最強と言われるプロ棋士

　に勝利し、世界に衝撃を与えた。

 

　人間の仕事がAIに取って代わられ

　るのでは？

 

　そんな危機感とともに懸念が深まる

　のが深層学習を利用して生成された

　本物と区別がつかないようなフェイク

　動画や画像、音声だ。

 

　それは民主主義の根幹さえも揺さぶる。

 

原則

　満面の笑みをたたえた米民主党の

　大統領のジョー・バイデンと

　副大統領のカマラ・ハリス。

 

　昨年に行われたバイデンの2024年

　大統領選への再選出馬表明に合わせ、

　ライバルの共和党がAIで生成し公開

　した宣伝動画だ。

 

　再選を喜んでいるかのようなシーン

　に続き、こんなテロップが流れる。

 

「最弱の大統領が再選されたら

　どうなる？」

 

　株価暴落、薬物の蔓延、押し

　寄せる不法移民、中国の台湾

　侵攻・・。

 

　人工画像とナレーションで描か

　れる米国の混迷に、バイデンが

　思い悩むような場面で30秒ほど

　の動画が終わる。

 

　24年大統領選は、AIが本格的に

　活用される初めての選挙となる。

　今回、公開された動画には、

　小さく

　「AIが作成した動画」

　との注意が添えられていた。

 

　民主党は「捏造だ」と非難するが、

　共和党側は意に介さず、選挙戦を

　通じてAIを利用する計画だ。

 

　SNSをなどを通じて、AIが生成

　したフェイクが拡散されれば、

　世論の扇動や政治への干渉に

　利用されかねない。

 

　AIは福音であり、リスクでもある。

 

　その境界線を引くのは難しいが、

　共存は避けて通れない。

 

　科学技術振興機構・研究開発戦略

　センターのフェローは話す。

「集合知として、より良い判断や、

　より良い民主主義につなげるには、

　どのような仕組みを作ればよいか、

　それを考える研究が重要になって

　いくだろう。」

 

　米SF作家のアイザック・アシモフは

　1950年作品の中でロボットが従う

　3原則を提示した。

　曰く、

　①人間に危害を加えないこと。

　②人間に与えられた命令には服従

　　すること。

　③それらに反しない限りは自己を

　　守ること。

 

　防ぐべきは科学の暴走ではなく、

　科学を操るべき人間にあるのでは

　ないか？

 

　AIについても、新たな原則を考える

　べき時が来ている。

 

深井ITゼミナール