「切ってもいい人」：自己責任、社会的包摂、AIの限界

 

 

 

 

なるほどね、「切ってもいい人」か。ちょうど「ゆく年、くる年、AIの年」や「分断が進む社会で『自己中』たることのリスク」などの記事でほとんど同じテーマを扱っていたので、その類例・補助線として提示しておきたい。

 

しかしまあ、ようこれだけ色々な要素を詰め込みましたわ。要するに将来のリスクも見越した「再配分」システムと、結果が当該の個人にのみ帰させるシステムのどっちを採用するかって話よな。ついでに言えば、どこまでが「仲間」と思える「我々」の範囲内になるのかが重要(ルソーなんかは、直接民主制を志向するからでもあるけど、2万人くらいが限度じゃね？と言ってる)という点も、排外主義とかフリーライドと同じでよく問題になることでもある(その最もわかりやすい歴史的表出が、ナチス・ドイツやポル・ポトのような、いわゆる全体主義だったと言えるだろう。それらの反省や第三世界の台頭もあって戦後の世界は人権意識の普遍化→成熟社会による多様化や抑圧の否定に向かっていくわけだけれども、今はそのような潮流への反発も強くなり、対立・分断が激化している状況と理解できる)。

 

まあ結論はそのどちらの両極も現実的ではなくて、その間のどこで妥結するかが問題になってきますよと。この辺りは、仮に政策決定AIみたいなのが導入されたとして、数値を元にこれぞ最適解でございと提示したとて、それに合意するのは容易ならざることやろなあと思う(これが人間より優れた？AI導入＝解決とはならない理由でもある。この辺は「合理性を追求するのなら、いらないのは人間だ」という議論とも重なってくる)。

 

そういったことを考える入口としてこういう動画は最適なので、とても興味深く拝見した次第。演出としてもこれまでになかった空間表現や、キャラの目をちょっと変えるだけでパラノイア的精神状態を暗示するなど、今後の新たな可能性を感じさせるものだったと思う(というか、いらすとやの絵でもちょっといじるだけでこれだけゾクっとさせる表現ができるんだなと感心した)。

 

オチについては、正直想定の範囲を全く超えなかったのでサプライズは無かったけれども(そこにフォーカスするなら「無能投票」や「ルールチェンジ大富豪」の方が上)、各キャラクターの背景についてもぼんやり匂わせるだけでここからあれこれ考える契機になったし、繰り返しになるが、むしろここから何を考えるかが大事な動画だったと言えるのではないだろうか(例えばネタバレしない範囲で言うと、「システムとその向こう側」を考えることは、ルーマンやパーソンズなどにもつながるだろう)。

 

というわけで、ここからもう少し掘り下げてみよう。
こないだ毒書会の相方と会話した時、AIの「進化」や「人間の条件」に絡めてトリアージや安楽死に触れる機会があったが、それら自体の是非と、それを大々的にシステム化することの危険性については、分けて議論した方がいいという意見も出た。実際、システム化によってお墨付きができたら、今度は「なぜそれに従わないのか？」という圧力が世を席捲していくことが容易く想像できるからだ。

 

例えば5年くらい前だが、「デスハラ」を扱った漫画があった。こういうのも、例えばAIが「この地点を分水嶺に、生きているより死んだ方が社会のため」という設定をしたとして、その提案が合理的に見えたとて従うかどうか・従えるかどうかというのは極めて微妙な問題だろう。せっかくなので、以下少し掘り下げてみたい。

 

一例としては、「一定年齢を超えた男女は結婚の可能性が極めて低くなるので、そのまま生き続けるより安楽死して臓器移植した方が社会貢献になる」とかね(余談だが私は臓器移植に同意するカードをいつも持ち歩いている。自分亡き後にその身体が社会に貢献できるならば、その方が合理的だと私は考えるからだ。ただしそのような行動を人に要求するかどうかはまた別問題である)。

 

わかりやすい対照的な事例として、「自分には扶養する家族がいるから、社会に様々な形で貢献している不可欠な人材だ」というケースがあるかもしれない。しかしちょっと考えてみればわかるように、それはあくまで「if-then」で成立している条件つきのものでしかなく、つまり離婚して身体を壊した瞬間に、その人は安楽死候補にノミネートされるかもしれないのである。

 

あるいは、自分が仕事で社会に貢献していると思っていたとしても、「あなたの仕事は新型AIの発明により代替可能な業務となったので、死んでその身体と資産を社会に還元することがより合理的な行動です」と判定される、とかね(まあ「生産性」という言葉を突き詰めることの恐ろしさってこれだよなと)。

 

ずっと前に「生きている意味なんて別にないよ」という趣旨のことを書いたことがあるが、それは絶望でも皮肉でもなく、端的な事実として存在しないのであり、人間がお得意の妄想力(＠『サピエンス全史』)であれこれ意味づけしてるわけで、人権とかそういったものも擬制の一環にすぎないという指摘なのだ(これは「『一切皆苦』について」でも書いた、世界の理解可能性やコントロール可能性にまつわる人間の幻想とも深く関わっている)。

 

だから例えば「なぜ人を殺してはいけないのか？」とよく問われるが、「人を殺してはいけない」という広範に見られる社会規範は戦場だと逆転し、むしろ称賛されることを想起したい。そこから少し考えればわかるが、「平時において人を殺すことを肯定する社会」というのはそれが実現した状況を想像すれば容易に理解できるように、社会の安定的運営においては甚だ不合理だからこそ否定されているのだ。言い換えると、一種の社会契約上の必要からそういった規範が要求されるのであり、それを「論じるまでもない不変の真理であるがゆえにユニバーサルに観察されるのだ」と解釈するのは全くの価値転倒である(なお、こういったことをもって「擬制＝価値がない」かのように考えるのは、思考の浅い人間がやりがちなことである。また、人間も当然習慣付けの生き物であるので、今述べたような規範が自明のもののように生活することを続けていれば、よほど意識しないとその人為性というのものを自覚しづらくなることも指摘しておきたい)。

 

こういった解釈から世界のカオス的性質に理解が及び、つまりは今いる社会的状況は所詮一時的なルール設計(ゲーム)上のものに過ぎないと把握するならば、そう軽々に自分の今いる状況とその継続を信じ、自分のあるべき枠から外れた人間を切り捨てる放言をできようはずもない、とワイは思うんだけどどうやろかね？これが、日本における自己責任論の多くを(複雑な社会への理解や思考実験が欠落しているという意味で)短絡的だと批判する理由である(「自由選択ができまぁす(手に入れられるとは言ってない)」でも書いたように、社会的「弱者」の包摂が、単に「思いやり」とか「恩恵」のためだと考えるのは、とんでもない思い違いである)。

 

とまあそんなあたりで本稿を終えることとしたい。