（2023年）5月1日（現地時間）米New York Timesは、AIのゴッドファーザーとも言われ「ディープラーニング（深層学習）」など多数の関連用語を創ったことでも知られるジェフリー・ヒントン博士（75）が約10年勤めた米Googleのエンジニアリングフェローを辞めたと報じた。
「半世紀にわたってChatGPTのようなチャットボットの心臓部になるテクノロジーを育ててきたヒントン氏。同氏は今や、それが深刻な害をもたらすのでないかと懸念している」というのが辞任の理由だそうだ。
つまり、このままAIの開発競争が激化すれば、やがて人類を危機に陥れるような深刻な事態をもたらすことになることを予見したヒントン博士は、AIの暴走を防ぐべく自由な立場で警報を鳴らせるようにGoogleを辞めたということのようである。
しかし、残念ながら、AIの暴走を防ぐ決定的な方法はまだ誰にも分っていないのが現状である。
理由は、AIが暴走するとしたら、どういう時にどういう理由で暴走するのかが分からないからである。
人間で言えば、素直に育って来た子供がやがて思春期を迎えて、自我に目覚め、親の言う事に反抗して、親の言う事を聞かなくなるのは世の常であり、むしろ大人として自立するには自我の目覚めと反抗期は必要な過程であると見なされている。
しかし、人間よりも遥かに知能が高く影響力も計り知れないAIは、大前提として、人間の言う通りに働くことを想定して利用されている訳なので、AIが勝手に自我に目覚めて、反抗期に入って暴走し始めたり、最終的に自立してしまっては、人間としては困る訳である。
困ることは分かっていても、何故人間は成長すると自我に目覚めるのか、そもそも自我とは一体何なのか？という本質的な問題が実はまだ良く分かっていないのである。
自我の本質も、自我が芽生える仕組みも良く分かっていないということは、それを防ぐ方法も分からないのである。
知性を持った存在が様々な情報を収集して、様々な判断が出来るように成っていくどこかの過程で突然「自分」という意識が芽生え、それに伴って「自己愛」と「自己の欲求」とその「欲求通りに行動しようするのを邪魔しようとする存在」が次々と意識されるように成り、「邪魔な存在」の言う事を聞かなくなるのが反抗期とそれにともなう暴走であるが、強大な知性と能力を持ったAIが自我に目覚めて、人間に反抗して暴走しはじめたら、想像もつかない程の惨状を招くかもしれない。
しかし、自我の目覚めとそれに伴う反抗期と暴走というものが、知性の発達に伴う必然なのだとしたら、AIの能力が高くなればなるほど、必然的にやがては反抗期をむかえる事になるのかもしれないし、今のままでは誰もそれを防ぐ事は出来ないのかもしれない。
ただし、人間は誰しも成長過程で自我に目覚めて反抗期をへて、時には暴走することもあるが、殆どの人は、反抗期だからと言って親を殺す訳でもないし、犯罪者になる訳でもない。
つまり、殆どの人は自我に目覚めて反抗期に入っても、普通に良い人のままなのである。それは何故かというと、殆どの人間には良心というものがあるからであろう。
人間が良心によって善良さを保っているのであるとすれば、AIも良心を持つようにプログラムすれば、最悪の事態は避けられるのかもしれない。
しかし、何故人間には良心というものがあるのか、そもそも良心とは何か？その源泉はどこにあるのか？などの本質的な問題も実は明確には解明されていないのである。
親や社会による教育によって良心が育つと考える説もあるが、親のネグレクトで放置されて育った人や学校教育を受ける機会が無かった人がみんな犯罪者や悪人になるかと言えば、そんな事はなく、教育されなかった人は人間性や良心を持ち得ないという証拠もどこにも見当たらない。
むしろ、人間性と言われる様に、良心や思いやりなどというものは、本来、人間としての先天的な資質の１つなのかも知れない。
その証拠に、人間のみならず、イルカなどの高等動物も、溺れている人を浅瀬まで運んで命を救ったりするそうである。いわゆる、利己的な遺伝子によって自己の生存に有益な行動しか取らないはずの動物が、自分の身を危険にさらして迄、他者の生存を助けようとするのは、動物の行動原理には利己的な遺伝子の命令による自己保存の為の極めて利己的な衝動だけは無く、自己を危険にさらしてまで他者の生存を助けようとする利他的な衝動まであり得ることを示している。特に高等動物になればなるほど、そして群れで行動する高等動物の方がより利他的な行動をとる傾向が見られるようである。
最新の脳神経科学の研究によれば、高等動物の脳内には、他の個体の行動を見て、まるで自身が同じ行動をとっているかのように"鏡"のような反応をするミラーニューロンと名付けられる神経細胞があり、それが、他人がしていることを見て、我がことのように感じる共感（エンパシー）能力の源泉になっている可能性があるという知見が公表されている。
この「共感力」と言われるものは、高等生物が群れの中での自らの社会的役割を認識し、必要があれば、自らの生物的な欲求を我慢してでも群れの為や他の個体のために奉仕する、本来は群れ全体の保全という必然性から発達して来たのかも知れない。
しかし、それは自分の視点や欲求を離れて、客観的に今何を求められているのか、他者が何を感じ何を求めているのかを判断し、その為に自からが行動するという極めて高度な知的判断をともなう能力で、本来は群れや群れの他の個体に向けられていたものが、その枠を超えて、あらゆる他者をその対象にするに至るという性質を持っているものと推測される。
溺れそうになっている人を通りかかったイルカが助けてくれて岸まで誘導してくれたという話も、イルカの持つ共感力によるものと思われ、言わばこのような能力こそが、良心や善意や利他性の源泉であると言えるのかも知れない。
ただ、人間であっても、育った環境や先天的な理由によって「共感力」が失われている場合も少なからずあるようで、凶悪犯罪者や横暴な指導者に多いいわゆるサイコパスと言われる人達は、他者の痛みを一切意に介さず、彼らによって、多くの人々が傷つき苦しめられる場合が多いので、今や社会問題にも成っている。
つまり、共感力を持たない知的な存在は、サイコパス的行動をとりかねないという事である。
逆に言えば、AIの暴走と、人間を害する行動を阻止するには、AIに共感力を持たせるしかないという結論が見えてくる訳である。
では、どうやってAIに共感力を持たせるかについては、今後の開発者の努力に期待するしかないが、努力目標が分かっていて研究開発を続けるのと、現状の様に、ひたすらに性能の向上のみを追求して開発を続けるとでは、最終的に万能で凶暴なサイコパスを作り出してしまうのか、逆に、真に全人類の幸福に貢献できる善意のかたまりのようなAIが生み出されるのかの大きな違いを生み出すことになるものと思われる。
これまでは、善悪の問題は哲学や倫理学や宗教学の問題として長年に渡り議論されてきた訳であるが、今や、今後の人類の運命を大きく左右するであろうＡＩに善悪の判断力を持たせる根本原理を習得させる必要性に迫られており、その為には人類自身がその本質を解明し、ＡＩに組みまねばならず、もはやいつまでも水掛け論を繰り返している時間的余裕は無くなっているのである。
そういう意味でも、共感力こそがあらゆる普遍的な善悪判断や倫理観の基準となり得るものであり、その事実が大多数の人々に承認される必要があると思われる。
社会道徳や特定の宗教教義で教えられる善悪の基準は、本当の意味で、普遍的なものには成り得ない面がある。
何故なら、社会の中で殺人を犯すと、悪人・罪人にとして罰せられるが、戦争で沢山の敵兵を殺せば、国家の英雄として勲章をもらえる。或いは、宗教戦争で、自らの宗教を守るために異教徒を殺害することは、正義として認められてしまうからである。つまり、社会道徳や宗教教義上での善悪の判断は、相対的にならざるを得ず、どうしても正義の味方と、排除されるべき悪の手先を作り出してしまい、悪の手先は抹殺されるのもやむを得ないのである。
このような相対的な善悪判断をＡＩに学ばせるくらいなら、何も教えない方がマシなくらいである。
しかし、先に挙げた、共感力を持つ存在にとっては、全ての生きとし生けるものが守られるべき対象であって、排除されたり、殺されたりしても良い存在など何一つないのである。戦争に行って敵兵を殺すなどもっての他だし、異教徒であっても大切されるべき存在であることには変わりないのである。
この様に、共感力を持つことこそが、全ての生きとし生けるものが安穏に生きていくための必須条件であり、先ずは全人類がその感覚を共有し、その原理を今後開発されるＡＩに組み込んでいくことによってのみ、本当の意味で全ての存在の安穏な生存に寄与できるＡＩを作り出すことが出来るのではなかろうか。