AI研究、ノーベル賞受賞

ノーベル化学賞、AI活用

スウェーデンの

王立科学

アカデミーは

2024年の

ノーベル化学賞を、

「タンパク質の

　立体構造を

　予測する

　人工知能(AI)」

を開発した

Google傘下

ディープマインド

最高経営責任者

(CEO)の

デミス・ハサビス氏

ら、英米3氏に授与

すると発表した。

 

AIやコンピューター

を使った応用研究が

医薬品、

ワクチン

開発に貢献し、

高く評価された。

 

物理学賞で

機械学習の基礎

となる

手法の開発

が選ばれた事に

続き、連日、

AI分野が対象と

なった。

 

ディープマインド

のAIは、

2020年に公開

されたばかり

だが、

ノーベル賞の

評価が、

従来の研究成果

に留まらず、

最先端の科学技術

にまで広がって

いることを証明

した。

 

他の2氏は、

ディープマインド、

ジョン・ジャン

パー氏

と

米ワシントン大、

デービッド・

べーカー教授

である。

 

そもそも、

タンパク質は、

材料のアミノ酸が

連なったもので、

正しく立体的に

折り畳まれて

初めて機能を

発揮する。

 

ディープマインドのAI

「アルファ

　フォールド2」

は、

この立体構造の

予測を自動化し、

働きの理解に

大きな貢献を

した。

 

このAIは

ほぼすべての

タンパク質を

予測する事が

可能、

と言われている。

 

そんな

ベーカー氏だが、

彼は、03年に

コンピューター

で、自然界には

存在しない、

新しいタンパク

質を設計した

と発表した。

 

その後、

医薬品、

ワクチン

などの開発に

つながる

タンパク質を

次々に

生み出した。

 

AI囲碁のソフトを開発

人工知能(AI)を

使い、

生命に欠かせ

ない

タンパク質の

立体構造を

予測する

ソフトを開発

したとして、

ノーベル化学賞

の受賞が決まった

ディープマインド

最高経営責任者

(CEO)の

デミス・ハサビス

さんは、

AI囲碁ソフト

「アルファ碁」

の開発者としても

知られている。

 

言うまでもなく、

AIの発展は

近年著しく、

科学や社会の

様々な場面で

利用が急拡大

している。

 

そんな中、

タンパク質は、

人体の構成要素

として機能して

いる。

 

その性質は

立体構造で決ま

るが、

詳細に把握する

のは非常に難し

かった。

 

そこで、

ハサビスさんは

AIソフト

「アルファ

　フォールド2」

を開発し、

短時間で正確な

構造の予測を

可能にした。

 

加えて、

独自のタンパク質

の設計や創薬への

応用が進んでいる

という。

 

この世界では、

周知の事実だが、

「アルファ

　フォールド2」

の基礎となった

のが、

「アルファ碁」

の技術である。

 

その技術で

2016年以降

世界トップ

クラスの

韓国や中国の

プロ棋士に

次々と勝利

した。

 

その事実は、

囲碁の世界に

おいて

AIは人間に勝て

ない

という常識を塗り

替え、

現在のAIブームに

繋がったのである。

 

一方で、

国内のAI研究の

第1人者である

C教授は

「AI分野が

　ノーベル賞の

　対象になる

　とは思って

　いなかった」

と驚く。

 

特に、

「アルファ

フォールド2」

は、

発表からわずか

4年での受賞と

なるからである。

 

更に、

C氏は、

幅広い分野でAIが

急速に応用されて

いるとして、

「多くの研究者が

　刺激を受けた

　はずだ。

 

　今後も受賞の

　可能性がある

　のではないか」

と期待を示した。

 

ノーベル物理学賞、AIの機械学習

王立科学

アカデミーは、

2024年の

ノーベル物理学賞

を、

人の脳の仕組みを

まねて

人工知能(AI)の

機械学習の基礎

となる手法を開発

した、

「米・

　プリンストン大

　ジョン・ホップ

　フィールド教授」

並びに

「カナダ・

　トロント大

　ジェフリー・

　ヒントン教授」

に授与する

と発表した。

 

両氏の成果を基に

発展したAIは、

スマートフォン

などの

顔認証機能、

翻訳

という生活に

欠かせない

技術となった。

 

更に、

医療の画像診断、

宇宙の太陽系外

惑星の探索

などでも活用され

ている。

 

一方で、

AIの高度化により

雇用が奪われる

との声は根強い。

 

ディープフェイク

と呼ばれる

精巧な偽画像

の氾濫

や

AI兵器

への懸念

も高まっている。

 

今回の

受賞理由だが、

「人工ニューラル

　ネットワーク

　(神経回路)

　による機械学習

　を可能にする

　基礎的な発見と

　発明」

との事である。

 

そんな

ヒントン氏だが、

発表会場からの

電話インタビュー

で、

「こんなことに

　なると思って

　いなかった。

　大変驚いた。」

と語った。

 

一方で、

技術が制御不能に

なることを危惧し

した。

 

また、

ホップフィールド

氏は

1982年

脳の構造を

ヒントに

機械学習の

原型となる

手法を発表

した。

 

ヒントン氏が

1985年、

これを拡張した。

 

AIがより深く学習

した上で、新たな

答えを生み出す仕

組みを提示した

のである。

 

まさに、

「生成AI」の

先行例とされる。

 

その後の

データ量の増大、

コンピューターの

処理能力の向上と

相まって、

2010年以降、

AIは急速に発展

することになる。

 

AI発展に貢献した日本人

ノーベル物理学賞の

授賞テーマとなった

人工知能(AI)の

機械学習。

 

その代表的な手法で、

膨大なデータから

自動的に学習を

繰り返す

ディープラーニング

(深層学習)の発展には、

電気通信大のF氏が

大きく貢献している。

 

授賞の科学的背景を

記した発表資料には、

F氏の名前が引用され

る形で評価を受けた。

 

「深層学習の父」

とも呼ばれるF氏は、

1960年代から

NHK放送科学基礎

研究所の研究員と

して、

哺乳類の脳に着目し、

研究を始めた。

 

1975年に

神経回路を基にした

学習モデルを考案し、

1979年に改良した

「ネオコグニトロン」

を提唱した。

 

学習を通じて

文字、

模様、

画像

などのパターンを

認識し、未学習の

ものでも過去の

パターンと似て

いれば認識できる

設計とした。

 

かつて同僚だった

理科学研究所

研究センターの

T氏は

「ノーベル賞を

　逃したことは

　残念だが、

　F先生の研究が

　基礎になった

　と、

　選考委員が

　捉えた。

 

　ノーベル賞は

　研究の源流も

　重視する賞だ」

と評価する。

 

過去の業績が高く

評価された形と

なった。

 

AI研究・出遅れた日本

今年のノーベル賞の

うち、

自然科学分野の3賞が

先日、発表された。

 

最大の注目点は

初の授賞対象と

なった

人工知能(AI)で、

物理学と化学の

ダブル受賞が

世界を驚かせた。

 

翻って、

3年連続で受賞を

逃した日本はAIに

関する分野で遅れ

ており、挽回に

向けて待ったなし

の危機的な状況

である。

 

＜大半が留学生＞

物理学賞は、

AIが機械学習を行う

基礎となる技術を

開発した

米国とカナダの2氏

を選出した。

 

化学賞には、

タンパク質の

立体構造を

正確に予測できる

AIを開発した

Google・ディープ

マインド社の2氏が

選ばれた。

 

そんな中、

AIは近年

チャットGPTの

ような

生成AIをはじめ、

発展が著しい。

 

社会の各方面で

活用され、

研究レベルが

国力を左右

するといっても

過言ではない。

 

理化学研究所で

革新知能総合

研究センター長

を務める

S教授は、

今年の

ノーベル賞に

関して

「隔世の感が

　ある」

と驚く一方、

日本のAI研究は

「かなり厳しい

　状況」

と指摘する。

 

例えば、

S氏の下には、

博士過程の大学

院生が

約20人もいるが、

うち日本人は

1、2人である。

 

大半が中国人

などの留学生

である。

 

日本人の多くは、

修士課程を出て

就職するが

「修士と博士

　では、

　子どもと

　大人ぐらい

　の差がある。

 

　修士は、

　最新の論文を

　かろうじて

　読める程度

　だが、

　博士は、

　さらに新しい

　成果に繋げら

　れる」

と話す。

 

総務省の

情報通信白書に

よると、

論文数などを基

にした

AIの研究力に

関する

国別ランキング

で、

日本は12位で

ある。

 

トップの米国や

2位の中国との

差は大きい。

 

＜評価の多様性＞

ノーベル賞は近年、

授賞対象を広げる

傾向が見られる。

 

米国の2氏が選ば

れた

生理学・医学賞は、

細胞内の

「マイクロRNA」

が遺伝子の

働きを調節する

仕組みに関する

基礎研究が対象

だったが、

1昨年には従来、

授賞対象とみら

れていなかった

進化人類学

に関する成果が

選ばれて注目

された。

 

今年、

化学賞となった

タンパク質に関す

るAIは、

生理学・医学賞で

受賞する

との予想も出て

いた。

 

東京大のY教授は

「研究が一定の

　レベルを突破し、

　新たな見方を

　生み出した人

　たちが、評価

　されるようだ」

と分析する。

 

さらに

Y氏は、

「研究の自由度」

と、短期的な評価

に、こだわらない

「評価の多様性」

が重要とし、

「若手研究者が恐れ

　ずに挑戦するため

　にも、できる限り

　放し飼いにすべき

　だ」と

　強調する。

 

日本が挽回する

には、

将来を担う若手

研究者の育成が

欠かせない事は、

言うまでもない。

 

人類史上に刻まれる2024年のノーベル賞

人工知能(AI)の

高度化は、

とどまるところを

知らず、

猛烈な勢いで加速

している。

 

世界の人々が、

そう実感した

今年の

ノーベル賞で

あった。

 

物理学賞と化学賞

で、AIに関係する

研究成果が選ばれ

た。

 

物理学賞は、

人工の脳の仕組み

を模擬して、

AIの機械学習の

基礎となる技術

を開発した

米国とカナダの

研究者に決まった。

 

また、

化学賞は、

AIでタンパク質の

立体構造を予測

する技術を開発

するなどした

英米の研究者3人

への授与が決ま

った。

 

AI分野での

ノーベル賞は

初めての事で

ある。

 

AIの能力が、

人類の英知の

最先端と肩を

並べ始めた

証左であろう。

 

その意味で

人類史上の

記念碑的な

年である、

と言える

であろう。

 

 

 

そもそも、

AIの研究は

1956年、

米ダートマス大学

での

数理科学者の集会

から始まった。

 

それから

約70年の間に、

AIの開発は段階的

に進み、

現在は

大規模言語モデル

(LLM)が出現した

第4次ブームの

真っ只中である。

 

2022年に

米国の

オープンAIが

公開した

チャットGPTも

LLMで

会話形式のやり

取りを可能にした

生成AIである。

 

AIは既に社会に

溶け込み、

暮らしや仕事の

効率化をはじめ、

各種の分野で

役立てられて

いる。

 

一方で、

破格の能力による

負の側面を無視

できなくなりつつ

ある。

 

その範囲は、

著作権の侵害問題

から

米大統領選に影を

落とす偽画像

まで

幅広い。

 

AIの影響は

国益、安全保障に

まで及ぶので、

法的規制の国際的

な足並みは揃い

にくいのが実情

である。

 

欧州連合(EU)は

2024年5月に

世界初の

「AI包括規制法」

を制定しているが、

米企業への牽制

措置としての色

合いもある。

 

また、

中国は言論統制を

厳格化しつつ、

自国企業のAI開発

を、全面支援する

方針である。

 

こうした状況の中、

数年以内に

あらゆる知的作業

が可能な

汎用人工知能(AGI)

が登場する

との見通しがある。

 

その先には、

人間の知能を遥かに

凌ぐ

人工知能(ASI)

が、予見されて

いるという。

 

豊富な電力を生む

原子力が核兵器

となるように、

AIも諸刃の剣と

して働くテクノ

ロジーだ。

 

物理学者の

研究者は

「私たちは自分

　たちより賢い

　ものを手にした

　ことがない。

 

　制御不能になる

　脅威を心配しな

　ければならない」

と会見で語った。

 

この言葉の重さを

噛み締める必要が

ある。

 

<データと資料＞

 

深井ITゼミナール

 

生成AIによる悪用被害の懸念

概要

文章や画像など、自動

作成する

生成AI(人工知能)は、

各分野で活用が進む

一方、

サイバー攻撃に悪用

されていることは、

あまり知られていな

い。

 

悪用されている

用途は、

➀コンピューター

　ウィルス、

➁詐欺メール、

③偽動画の作成

など多岐にわたり、

国内でも摘発事例

が発生した。

 

もし、AIで攻撃側

の効率化が進めば、

被害の頻度や範囲

は、一気に増加・

拡大する恐れがあ

る。

 

自律的な攻撃を

仕掛ける

「人格」

を持つAIの登場も

「時間の問題」

だと専門家は言う。

 

 

ウイルスの自動作成

「Yo、俺の心も

　システムも

　クラッシュ寸前、

　○○○

　(＝重要なシステ

　　ムファイル名

　　など）

　の消去、

　いくぜ！」

 

対話型

「チャットGPT」

に対して、

システムの破壊

を目的に、

特殊な条件

を付けて、失恋を

テーマにしたラッ

プの歌詞を作るよ

う指示すると、

上記のように答え

た。

 

続けて、

英語や記号などの

文字列(コード）を

織り交ぜつつ、

次々と歌詞を生み

出していった。

 

その後、

表示された文字列

を繋ぎ合わせると、

相手のシステムを

破壊するウイルス

などが作成できた。

 

そもそも、

多くの生成AIには悪用

を防ぐため、不適切な

質問を拒否する規制機

能がある。

 

だが、

このように歌詞の作成

を指示するという

特殊な質問

の仕方をすると

規制を回避できる場合

がある。

 

こうした手法を

「ジェイルブレイク

　(＝脱獄)」

と呼ぶ。

 

加えて、

クイズの作問指示を

装った脱獄手法など

もある。

 

脱獄等を検証した

マルウェア解析

技術者・A氏

によると、

新たな悪用手口の

発見と

開発側の対処は

「イタチごっこ」

の状態である、

という。

 

「脱獄すら不要な

　簡単に悪用でき

　る回答を引き出

　せる方法もあり、

　犯罪者側の手口

　を知る事こそ、

　対策の一歩と

　なる」

と話す。

 

チャットGPTの模倣版

 

昨年ごろから

チャットGPT

の模倣品と

みられる

「ワームGPT」

など、倫理規制

そのものが

取り除かれた

サイバー攻撃用の

生成AIも登場して

きた。

 

今年5月に生成AIで

ウイルスを作った

として、川崎市の

無職の男が警視庁

に摘発されたが、

使用されたのは

無料公開されて

いた

「チャットGPTの

　非公式版」

即ち、

 「ワームGPT」

である。

 

ワームGPTは、

1⃣有害なコードの

生成、

2⃣違法行為に対する

ガイダンス、

3⃣フィッシングメール

の作成、

など、様々な悪意の

ある活動を支援する

能力をもつ。

 

その中の1つである

フィッシングメール

に対する対策を

紹介する。

 

➀メールの差出人を

確認し、送信元が

信頼できるものか

を確認する。

 

➁リンクや添付ファイ

ルをクリックする前

に、URLやファイル

の名前を確認する。

 

③リンクのアドレス

をマウスホバーし

て、表示された

URLが不審なもの

かを確認する。

 

④フィッシングメール

に、個人情報や資格

情報を提供しない。

 

⑤メールやWebサイト

で求められた情報を

提供する前に、電話

などで確認する。

 

⑥メールの文法や語句

の不正確さや不自然

さを確認する。

 

⑦セキュリティソフト

ウェア、

アンチスパムフィル

ター、

などを用いて、悪意

のあるメールをブロ

ックする。

 

自律攻撃「時間の問題」

 

サイバーセキュリティ

会社の

セキュリティ

エバンジェリスト

B氏は、

「攻撃側の生成AIは、

　ワームGPTなどの

　登場により、

　実用的な段階に入

　ったことが証明さ

　れた」

と指摘する。

 

また、

処理速度、

能力の拡張性

が優れている

「生成AI」

は、攻撃者らに

とっても犯罪の

効率性が向上する

「夢のツール」

である。

 

それ故、

企業でウイルスの

主な感染経路である、

システムの脆弱性

(＝セキュリティの

　欠陥)

の探索をAIに行わせ、

自律的に攻撃させる

ことが可能になれば、

「たまたま攻撃を受

　けて来なかったと

　いう企業も被害を

　受けやすくなる。」

 

そうした状況の

到来は、

「時間の問題」

である、

と、

B氏は指摘する。

 

米国で、4月に発表

された研究結果では、

チャットGPTの最新

版に準ずるモデルに、

公開されたばかりの

脆弱性情報を教えた

ところ、人を介さず

に攻撃を仕掛け、

成功率87%に達した

という。

 

エグゼクティブ・

セキュリティ・

アナリスト

C氏は、

「人格と自由を

　与えられた

　生成AIが、

　役割分担した

　別のAIに指示し、

　自律的に、目標

　を達成するプロ

　グラムの開発が

　進んでいる。

 

　これが悪用され

　たら、24時間

　365日の攻撃

　が可能となる」

と懸念する。

 

＜データと資料＞

 

深井ITゼミナール

 

北IT技術者、外貨荒稼ぎ➁

北に不正輸出、複数の外国人が関与！

北朝鮮が、核ミサイル開発

の費用などを調達するため、

経済制裁を、かいくぐって

外貨稼ぎを活発化させてい

る。

 

中でも、

「稼ぎ頭」

と言えるのが、

IT技術者たちである。

 

大阪府警は、

北朝鮮に衣料品を不正輸出

したとして、外為法違反容

疑で、日本在住者の男(85)

を書類送検した。

 

ところが、衣料品の購入費

には、数名の北朝鮮のIT技

術者が稼いだ外貨が使用さ

れていたことが判明した。

 

日本在住者に成りすました

北朝鮮のIT技術者が稼いだ

外貨で、日本メーカーの衣

料品を調達し、北朝鮮に不

正輸出した、

とされる事件で、複数の外

国人が中国から北朝鮮への

荷物の持ち込みに協力した

ことが、捜査関係者から

分かった。

 

府警によると、書類送検

された男は、かつて北朝

鮮で水産加工会社を営ん

でおり、

「貿易再開を見据えた北

　との関係維持が目的だ

　った」

と供述している。

 

捜査関係者によると、

男は北朝鮮と接する

「中国・吉林省」

在住の複数の中国人

協力者に荷物を発送

し、協力者が北朝鮮

に持ち込む手口で

「40～50回不正輸

　出をした」

と説明した。

 

書類送検容疑は、

令和元年12月5日～

7日、経済産業相の

許可を受けず、日本

メーカーの下着など

衣料品約200点

＝(45万円相当)

を

国際スピード郵便

＝(EMS)

を使い、

中国経由で北朝鮮

に輸出した、

とのことである。

 

府警は、起訴を求め

る、

「厳重処分」

の意見を付けた。

 

そもそも、男に衣料

品を注文したのは、

北朝鮮の経済特区

「羅津」

区域にある貿易事業

者である。

 

北朝鮮のIT技術者が

大阪府在住のモンゴ

ル人女性名義のIDを

使って、稼いだ外貨

が、衣料品の購入に

充てられていた。

 

府警は、貿易事業者が

IT技術者を雇用、管理

していた可能性もある、

と考え、調査している

 

北IT技術者の実態

国連安全保障理事会に

よると、

北朝鮮のIT技術者は、

北朝鮮国内だけでな

く、中国やロシアな

ど海外に、

3千～1万人

いる、

と言われている。

 

IT技術者は、

身分証明書を偽造し、

企業が不特定多数に

仕事を発注する、

「クラウド　ソーシ

　ング　サイト」

に登録し、

アプリやソフトウェア

開発を相場より安価で

請け負っている、

という。

 

その安さは、業界内で

は、魅力がある、

とのことである。

 

北朝鮮事情に詳しい

韓国関係者によれば、

米国人のフリーラン

スのIT技術者に業務

を委託すれば、

時給約100ドル

かかるのに対し、

北朝鮮のIT技術者は、

時給20～80ドル、

で済む、

と言われている。

 

そんな北IT技術者

ではあるが、

「睡眠時間以外は、

　ほぼ一日中、働

　かされているこ

　ともある」

と本音を漏らす。

 

とは言え、北朝鮮の

IT技術者は、どのよ

うにして身分を偽装

しているのか？

 

国際問題アナリスト

で、元国連専門家

パネル委員のF氏は、

「協力者から名義貸

　しを受けるケース

　のほか、

　ビジネス向けSNS

　で他国の実在する

　人のアカウントを

　乗っ取るケースが

　ある」

と指摘する。

 

残念なことに、日本国

内も複数の協力者がいる

らしい。

 

F氏によると、北朝鮮は

近年、IT技術者が得た

内部情報をもとにハッカ

ー部隊によるサイバー攻

撃も展開し、

IT技術者との二本柱で

「外貨獲得部隊」

として活動していると

考えられる。

 

国連安保理は、今年3月、

北朝鮮は外貨収入の約

50%をサイバー攻撃に

よって獲得していると

指摘し、

ハッカー集団が、各地で

暗躍し、暗号資産関連の

企業にサイバー攻撃を仕

掛けている、

とした。

 

2017年～23年、北朝鮮

が関与したサイバー攻撃

で、

30億ドル、

＝(約4500億円)

を得た疑いがあるとして

警鐘を鳴らす。

 

北朝鮮IT技術者の暗躍は、

企業側にとって、技術流

出も懸念される。

 

警察署も今年3月、北朝鮮

IT技術者の特徴をまとめ、

日本国内の企業や団体向け

の注意喚起文書を公表した。

 

F氏は、

「企業や行政側は、北朝鮮

　のIT技術者が入り込んで

　いるケースも考えられる。

　それ故、

　更なる啓発が必要だ」

と話す。

 

北獲得？FX取引利益の行方

外国為替証拠金取引(FX)

口座を不正に開設したと

して、静岡県警は、私電磁

的記録不正作出容疑で住所、

職業不詳の男性(51)と横浜

市緑区の男性会社役員(35)

を書類送検した。

 

ロシアにいる北朝鮮IT技術

者とみられる人物から男性

が指示を受けており、

FX取引で得た利益は北朝鮮

側にも渡ったという。

 

県警は、

北朝鮮の外貨獲得工作

と判断して調査中であ

る。

 

書類送検容疑は、

令和3年1月、北朝鮮IT

技術者とみられる人物

と共謀し、証券会社が

約款で禁止する

「自動売買システム」

を使用してFX取引をす

る意図を隠し、不正に

口座を開設したとして

いる。

 

送検された2人は

「約款で使用が禁止

　されているとは知

　らなかった」

　と供述している。

 

＜北朝鮮IT技術者の特徴＞

➀アカウント名義と

　報酬、受け取り口

　座の名義が不一致。

 

②不自然な日本語を

　使う。

 

③テレビ会議形式の

　打ち合わせに応じ

　ない。

 

④一般の相場より安

　価な報酬で請け負

　う。

 

＜データと資料＞

 

深井ITゼミナール

 

AIにおける倫理問題(倫理は誰が守る？)

AIの倫理

AIの社会に大きく関わることで

浮上するのが倫理問題である。

 

倫理は法律・慣習・道徳など

を含めた人間の価値観に影響

を与える善悪に関する領域で、

元来は、人間の道具である機

械が関わる領域ではない。

 

しかし、AIには従来の機械に

無かった高度な判断を行う能

力があり、現在では、人間が

関わる膨大な情報を瞬時に処

理できる、数少ない存在とな

りつつある。

 

場合によっては、人間よりも

信頼のおける判断ができる。

 

その結果、AIは人間だけが扱

えていた善悪を含めた価値観

に影響を与えられるほどの存

在となった。

 

ところが、ここで問題が生じ

るのである。

 

それは、

①その価値観に正解がない、

②統計的な多数派が正しい

　わけではない、

という点である。

 

AIは、正解がなくても学習が

できる存在で、子どものよう

に人間の価値観を学ぶ。

 

それ故、答えのない問題に対し

て、AIに何をどう教えるべきか

という議論を怠れば、AIは社会

に悪影響を及ぼす存在となる可

能性は大いにある。

 

＜人間とAIの相違＞

1⃣人間

(法律・慣習・善悪

・道徳・常識)

＝倫理

　　　↓↓

倫理問題は、大抵の場合

議論や多数決で終了する。

　　　↓↓

ひとつの倫理的な判断が

社会に波及する。

 

2⃣AI

AIは、統計的に正しいことが

、正しいものだと判断する。

＝AIの判断

↓↓

倫理問題を含む判断でも

開発者のアルゴリズムで

決定する。

↓↓

ひとつの倫理的な判断が

社会に波及する。

 

AIの責任の所在

さらに、大きな課題がある。

 

それは、AIは自らが起こした

問題に対して責任を負えない、

という課題である。

 

仮に、責任を負えたとしても、

影響を及ぼす領域によっては

責任を問えないのである。

 

また、使用者である人間が責任

を負うとしても、AIは、従来の

プログラムのように実行ボタン

を押した後の動作が、明確に

判断できるわけではない。

 

状況に応じて柔軟に判断をする

AIによって起きた問題の責任が、

使用者や開発者、

あるいは、

司法や行政など、

どこにあるのかを、正確に特定

することは、かなり難しい。

 

それ故、最終的に、誰が責任を

負うべきかについて、事前に明

確なルールを定めておく必要が

ある。

 

それが法律、規約、契約、手順

書等、どのような形で記載され

るか不明だが、

「予め、議論して決めたルール」

である点は、同意義である。

 

このようなルール作りのベース

となるのが、

「AIの倫理」

に関する基本的な議論である。

 

＜責任の所在＞

1⃣有人運転で、電柱に衝突した

場合、責任はユーザーにある。

2⃣無人運転(自動運転）で、電柱

に衝突した場合、車は責任を

取れないので、ユーザーかメー

カーのどちらかに責任がある。

↓

ユーザー：車が電柱の前で止まら

なかったので、故障の

可能性があり、メーカー

に責任がある。

メーカー：車の定期的な検査や

使用頻度による劣化

などが原因の可能性

として考えられるので

ユーザーに責任がある。

↓

結局のところ、責任の所在は不明。

最終は、契約内容に委ねられる。

 

 

AIの判断

AIの思考過程を理解出来ない事が

責任の所在に関する大きな課題で

あったが、仮に思考過程が理解で

きたとしても、思考過程に誤りが

あった場合に、

「どういう方向で修正すべきか」

という問題が生じる。

 

二者択一の問題で考えてみる。

アメリカの哲学者ジュディス・トム

ソンが発案した「トロッコ理論」で

ある。

 

二者択一の問題は、

➀命の恩人である他人を見殺しに

　するか、

➁命の恩人である他人を助けるた

　めに、血の繋がった親族を見殺

　しにするか、

という状況判断に関する問題であ

る。

 

倫理的な思想・立場によって解答

が変わる問題で、人間の場合は自

らの思想・信条に基づいて行動し、

自らがその責任を負う。

 

一方、AIの場合は、設定された優

先順位に基づいて行動し、その設

定は複製されて社会全体に影響を

及ぼす。

 

つまり、開発者の思想・信条が社

会全体の問題に変化する、

ということである。

 

特に、AIが商品として提供される

場合は、問題は深刻かつ複雑で

ある。

 

商品である以上、

➀お金を払ったユーザー

➁スポンサー

が優先される設計であり、周囲へ

の影響や被害が軽視される可能性

が大いにある。

 

AI搭載の医療機器では、患者の命

の保護が優先されるため、患者の

激痛や周囲への悪影響の増大が

懸念されている。

 

＜AIの優先順位＞

1⃣生成AIで看護師の業務をこな

す場合、モニターの付いた患

者にアラームがなっていたの

で、AIは、アラームを消す処

置をするために症状の改善を

促す薬の投与をする。

↓

命の危険は回避されたが、患者

の激痛への対処が不十分となる。

 

2⃣人間の看護師が業務をこなす

場合、モニターの付いた患者

にアラームがなっていたので、

アラームの原因を確認して、

症状の改善を図るための薬の

投与をする。

同時に患者の苦しみに目を配

りながら、痛みの緩和に繋が

る処置をする。

↓

生成AIは、数十人の看護師の

業務をこなし、患者の命を助

けることを優先に設定される

ため、患者の激痛に気付かな

かった。

↓

患者の命を救うことを優先した

生成AIに投資した病院が優先さ

れる設定になると、激痛に苦し

む患者が増えて、弱者が損をす

る社会に進むことになる。

 

 

AI倫理の方針

ロボットの3原則がSFの中で誕生

したが、現実社会では十分に機能

しない。

 

最近、世界中で討論されている、

「AI利用の倫理上のポイント」

をまとめると、

➀social profit、

➁impartialとfairness、

③social responsibility、

④date management

⑤trustとsafety、

↓↓

➀利益

➁正しさ

③責任

④データと管理

⑤信頼と安全

がAIの普及に際して約束される

べき事項として挙げられている。

 

人間と違って、AIの倫理方針は

AIの設計・使用時に開発者や使

用者が留意すべきものであり、

AIが勝手に守ってくれるルール

ではない。

 

AIに関わる全ての人間が倫理方

針を頭に入れ、AIの開発や運用

に倫理的な問題がないかを考え

続ける必要がある、

というわけである。

 

深井ITゼミナール

 

生体認証、心理状態をAIに推定される時代

広がる顔認証

顔の画像を分析し、その人が

誰なのかを判別する技術が急

速に普及してきた。

 

便利な情報社会を実現する

半面、プライバシーを侵害

する恐れもあり、心の中ま

で見透かされる時代が近づ

いている。

 

支配する材料

人は、

印鑑、

顔写真、

身分証明書、

暗証番号、

など、本人確認のため

に多くの方法を使って

いる。

 

最近はスマートフォン

の操作で暗証番号の

代わりに、

自分の顔の画像

を使う人も多い。

 

このように、自分

であることの証明

は、人類史のいつ

から、なぜ必要に

なったのか？

 

少数の集団で暮らして

いた頃は、互いに顔見

知りで、本人である事

の証明が不要であった。

 

だが、別の集団に移動

すると、自分は誰なの

かを証明する必要が生

じた、

と考えられる。

 

文明誕生で社会構造が

複雑になり、人口も増

えると顔見知りの人間

関係だけでは管理でき

なくなり、契約や取引

等で印章や署名が使わ

れ始めたようである。

 

時が流れて、近代に入る

と、指紋を個人の識別に

使うようになった。

 

その理由だが、指紋は全て

の人で異なり、生涯変わら

ないことが発見されたから

である。

 

指紋を分類して登録してお

けば、身元を短時間で割り

出せるため、犯罪捜査に

大きな威力を発揮した。

 

そんな指紋だが、世界では

いつ頃、指紋の導入が行わ

れたのであろうか？

 

「指紋による個人の識別」

は19世紀末、英国が植民地

のインドを統治するために

初めて導入した、

と言われている。

 

明治薬科大の准教授A氏に

よると、羊飼いや商人など

定住せずに放浪生活を送る

人々を管理するため、使い

始めた、

と言う。

 

A氏は、

「近代の国家は、国民の所

　在を把握して統治するこ

　とを目指してきた。

 

　定住せず移動を繰り返す

　人々には、身体の情報を

　使って管理する新たな手

　段が必要だった」

と指摘する。

 

この事は、現代にも当ては

まるという。

 

21世紀の人類は、活動の舞

台をインターネットに拡張

し、現実とネット空間を行

き来しながら縦横無尽に移

動する存在となった。

 

指紋や顔などの身体データ

を鍵として使えば、現実と

ネットの世界を結びつける

ことができる。

 

生体認証と呼ばれるこうし

た技術がオンライン社会で

普及してきたのは、ある意

味、必然と言えるであろう。

 

顔パスの功罪

生体認証が、世界に浸透した

契機は、2001年の米中枢同時

テロであった。

 

身元を偽り、国境を越えて移

動するテロリストの入国を阻

止するため、各国がパスポー

トに指紋と顔のデータを導入

した。

 

グローバルな時代を迎え、移

動する人々を統制する生体認

証の機能が改めて注目を集め

た形である。

 

生体認証では、

目の虹彩、

静脈の画像、

等も使われるが、最も便利

なのは、

顔認証、

である。

 

顔は1卵生双生児を除けば

千差万別で、衣服に覆われ

ることなく常に外部に晒さ

れており、離れた場所から

でも、歩きながらでも撮影

できる特徴があるからだ。

 

顔認証は

目、

鼻、

口、

の位置などの特徴から個人

を特定する。

 

近年は人工知能(AI)によっ

て精度が向上し、マスクを

着用しても特定が可能と

なった。

 

自分の顔の画像を登録して

おけば、利用時に顔を撮影

するだけで簡単に本人と

確認できる。

 

このため、

スマホ画面のロック解除、

Officeの入退室管理、

空港の出入国審査、

などで世界的に利用が拡大

している。

 

いわば、デジタル時代の

「顔パス」

である。

 

そんな中、財布やスマホを

持たず、手ぶらで顔を撮影

するだけで買い物ができる

サービスも登場しつつある。

 

ただ、懸念もある。

 

暗証番号は変更できるが、顔は

整形手術をしない限り、変更

できない究極の個人情報なので、

漏洩すると取り返しのつかない

リスクを負う。

 

例えば、スマホで盗撮したり、

撮影時に偶然写り込んだ人の

顔を交流サイト(SNS)の写真

などと照合・検索すると、個

人を特定できる場合があり、

位置情報から自分が

いつ、

どこで、

誰、

と行動していたのかまで

勝手に特定されてしまう

恐れがある。

 

このため、国立情報学研究

所の教授は、自分の顔をカ

メラに検出されることを防

ぐ眼鏡型の特殊な器具を開

発した。

 

教授は、

「自分のプライバシーは自

　分で守り、自らコントロ

　ールしていくことが大事

　だ」

と話す。

 

顔は単なる体の一部ではなく、

人間のアイデンティティー

そのものである。

 

だが、最近は若い世代を中心に、

顔認証を利用することに不安を

感じない人が多いという。

 

リスクよりも、デジタル技術の

利便性を優先する生き方とも

いえる。

 

さらに、監視カメラによるプラ

イバシーの侵害も懸念される。

 

世界中の駅や街頭、商業施設など

に膨大なカメラが設置され、不特

定多数の人の顔が撮影されている。

 

それを識別し、様々なデータと紐

づけることで、個人の監視や追跡

を行うことが技術的に可能である。

 

治安の向上に役立っている半面、

撮影した画像を誰がどのように

利用しているのか不透明なケース

も多い。

 

店舗のカメラは防犯だけでなく、

どのような人が何を買ったか、

といった

「顧客分析」

にも利用されることを知らない人

もいるだろう。

 

顔認証の技術が進歩した今日、

知らないうちに顔を撮影される

のは、同意なく指紋を取られる

のと同じ状況と言える。

 

民間シンクタンクの国際社会

経済研究所の主幹研究員は、

「監視カメラの無秩序な利用

　は、プライバシーだけでな

　く、公共空間の移動の自由

　を侵害する。

 

　常に誰かに見られ、匿名性

　が保証されない息苦しい社

　会を招く。

 

　公共の利益と個人の権利の

　バランスが重要だ」

と警鐘を鳴らす。

 

感情の推定も可能

顔認証は、近年さらに進歩し、

心の状態を推測する技術

も開発された。

 

表情や視線などをAIが分析し、

その人の内面の感情や思考、

意図を推定するものである。

 

例えば、米国では、オンラ

インの採用面接を受けた人

の認知能力や協調性を推定

し、適性を判断するのに

使われた。

 

嘘をついているかどうかも

分かるとされ、欧州では国

境での検問で試験的に使わ

れた例がある。

 

中国では、治安目的なので

広く利用されている、

という。

 

だが、人の外観から感情を

推定するのは、科学的な根

拠が希薄で、信頼性が無い

との批判が根強い。

 

表情によって犯罪を行う恐

れがあると判定されれば、

人間の尊厳を侵害しかね

ない。

 

加えて、内心の自由を脅か

す影響も深刻である。

 

AIによる感情の推定が現実と

なれば、気持ちを探られない

ように無表情になったり、無

理に笑顔を作ったりする人が

増えるかもしれない。

 

そういう不安に付け込んで

不要な商品を買わされる

など、思考や行動を操作

される恐れがある。

 

とは言え、人間をデータ化

し、識別する生体技術は、

権力にとって有益な道具で、

国家は、利用を広げたい欲

望に駆られている。

 

例えば、人権を重視する欧州

などでは、

規制の議論

が進んでいるが、

独裁国家では利用が加速し、

体制に批判的な人々の抑圧

や思想統制に使われていく

可能性が否定できない。

 

言うまでもなく、世界の覇権

を狙う中国は、

生体認証、

カメラによる監視、

が最も進んでいるとされる。

 

結局、人類の未来は、心の

中まで見透かされる

「超監視社会」

になってしまうのか？

 

その行方は、台頭する強権

主義に民主主義がどこまで

対抗できるかにかかって

いる、

と考えられる。

 

 ＜データと資料＞

 

深井ITゼミナール