自由意思でAIの「奴隷」になっチャイナよ！

ディッタースドルフ＝D、ベルゲングリューン＝B

 

D
「あなたは、自分が時計の奴隷だと思いますか？」

 

B
ああ？何でい正月から藪から棒に・・・いやまあ奴隷なんてこたーねーだろうよ。

 

D
それはなぜ？

 

B
何をもって「奴隷」ってお前さんが言ってんのか知らんけどさ、「それによって己の自由意思が毀損されているわけではない。あるいは、少なくとも毀損されていると感じないから」ってとこじゃねーかい？

 

D
つまり、「時計に従属しているわけでも支配されているわけでもない」、と？

 

B
そういうこっちゃ。

 

D
しかし歴史を見てみると、仕事であれプライベートであれ、時計によって刻まれる時間を軸に動く様式は、有史から続いているわけではないよね。それどころか、18世紀から始まる産業革命の中で人の労働管理の必要から広まっていったものであり、かなり新しい現象と言っていい。

 

B
そりゃおめー、そもそも時計を多くの人が持てる状況自体、そんなに遡れることじゃねーからよ。ヨーロッパで言うなら、以前は聖職者が礼拝用に時を正確に把握するため使用していたことはあっても、多くの人は日の出・日没のような、もっとざっくりした枠組みの中で動いてたわけでさ。だいたい、当時大半だった農民にとって、「毎朝8:30に農作業に出て17:00に上がる」などと年間決めて動くのは、全くのナンセンスであると誰でも理解できると思うんだがね。

 

D
まさしくその通り。労働者としての契約形態と働かせ方が、現代にも繋がる時間管理というものを不可欠にした点は異論ないさ。しかしそれでは、その人たちが今の我々を見るとどう考えるだろう。

 

B
あぁん？そいつぁいってーどういう意味だい？

 

D
何かあれば自分の時計を確認・記憶し、「あと〇〇分で電車が来る」・「××時には会議が始まる」・「明日の△時にはTV番組が始まる」といった行動を誰も疑わずに取っている様を見れば、中世の人たちからすればあたかも俺たちが「時計の奴隷」とみなすことは十分にありえるんじゃあないかね？

 

B
ああ、なるほど。お前さんさっきから何が言いてーのかと思ってたが、要するにフーコーで言うエピステーメーとかの話をしたいわけか。これはバラード的な「その世界にはその世界に適応した人間の合理的思考というものがある」、と言ってもいいが・・・それを踏まえて言うなら、俺の反論としてはこうなるな。つまり、今の俺たちは「時計の奴隷」というより、「数値化された時刻で隅々まで細かくスケジュール化された現代社会に最適化しているだけだ」ってね。

 

D
なるほど、では次の質問。「あなたは、自分がスマートフォンの奴隷だと思いますか？」

 

B
俺がきちんと返答したのにそれはスルーかい・・・そのスマートフォンてのは要するにネットやアプリの情報も含めてってことでえーの？

 

D
御随意に。

 

B
うーん、どうだろうねえ、SNS、ルート検索、動画視聴、ゲーム、まとめサイト・・・って感じでかなりの時間を取られたり、行動が影響を受けてるからなあ・・・でもやっぱ「奴隷」ではないんじゃねーか？

 

D
その理由は？

 

B
時計と同じさ。「自らの自由意思が毀損されているわけではない。あるいは、少なくとも毀損されていると感じないから」ってね。ただまあ時計と同じように自信をもって答えられるかっつったら、そうではないけどな。なぜって、amazon先生とかぐるなび師匠、ウィッキーさんとかを持ち出すまでもなく、俺たちの行動はしばしば影響を受けてるからさ。

 

D
そうだね。そしてHUAWEIを持ち出すまでもなく、データ化のリスクなんて昔から言われてたわけだけど、もはやスマホの使用をやめようなどという発想は聞いたことがない。それはなぜだろう？

 

B
そりゃ簡単な話で、まず有り余る便利さが一つ。そしてもう一つが、コミュニティから自動的に排除されてしまうからだ。SNSを使ってる人と使ってない人の隔絶といったものはもちろんあるけど、例えば「道に迷いました」という相手の発言に対してさ、｢そんなもんスマホで調べとけよ｣とか思ったりするわけじゃん。昔だったら「だよね～場所わかりにくよね～」で通用したかもしれんことが、情報が行き渡り、情報収集能力もある程度みな備わってるという前提で社会が動くから、仕事でもプライベートでもむしろそれを使わないことがハンデとなりかねない。これはさっき言った「数値化された時刻を前提に動く社会」ってのにも繋がる話だがな。

 

D
それでも、我々はスマホの奴隷ではない、と？常にそれを持っていないと、あるいは操作していないと不安になり、そこといつも繋がっていようとする姿を以前の人が見たら、「その中に神でもいるのか？」なんて言われるかもしれないぜ？

 

B
まあねえ、別に調べるのは自分の意思でやってるわけだし、それに従わない自由だってあるわけだろ？多少の不自由はあってもそれを使わないことはできる。そんな状態を「奴隷」たぁ言わねーんじゃねーか？

 

D
なるほど。それじゃあ最後の質問。「あなたは人間が人工知能の奴隷になると思いますか？」

 

B
うーむ、まあ正直何をもって「人工知能」とするのか？って幅の問題はあるが、自動運転はじめ機械化が進んで人間が手を出す領域が減ることで、人間がそれに従属するかのような印象を受ける人はいるかもしれないね。公認会計士とか保険数理士とかは遠くない将来に取って代われると言われてるし。要するに、今まで人に聞いてたのを、今度は人工知能様にお伺いを立てるってわけだ。まあ公認会計士については、現時点でもラトビアみたいなシステムを入れたら不要になるがね。

 

D
答えになってないよ。お前はどう思ってるんだ？

 

B
もうこれは二回話してるが、あえて繰り返すなら、「自らの自由意思が毀損されているわけではない。あるいは、少なくとも毀損されていると感じないから」、少なくとも将来の私たちは人工知能の奴隷であると自分たちを認識しないと予測される。その意味においては「奴隷ではない」という答えになるだろう。しかし、今の私達からしたら想像もできないくらいに日々の細事まで人工知能が示すところに影響されて生活することになる。その意味では、「奴隷である」という見方もできる。

 

D
つまりは？？

 

B
さっき時計にまつわる中世の人々と我々の感覚の隔絶、そしてそれに絡めてエピステーメーやバラードの件を話したけど、要するに「自由意思と選択の幅を残している限り、それを人は奴隷状態と認識することは難しい」ということさ。しかしそれを、たとえば「シンギュラリティ」によって変化した世界(イメージしやすく「繭」とでも呼ぼうか)の外側から見るならば、それは映画「マトリックス」の培養液の中で飼われているようにも見える、という話だ。

 

D
じゃあやっぱり奴隷状態ってことでいいの？

 

B
ここに、マックの椅子がある。

 

D
ハァ？

 

B
まあ聞けよ。ここにマックの椅子がある。君はそれに長時間座っていたいと思うかい？

 

D
いや、結構固いからそこそこの時間で店を出ると思うけど。

 

B
では君はマックの椅子の奴隷か？

 

D
いや、自分でそうしようとして行動したんだから奴隷って表現はおかしいでしょ。何か強制されたわけじゃあない。

 

B
だよな。しかしマックの店内環境は、ご存知のように、快適になりすぎないように設計されている。長居されると回転率が下がって困るからだ。ゆえに、椅子はずっと座っているとしんどいように設計されているのさ。ということは、お前さんが自由意思に基づいて席を立ったというのは、強制されて嫌々取った行動ではないという意味で奴隷的ではないが、製作者側の意図によって見事にコントロールされてもいるのさ。現代というのは、バイオメトリクスも含め、こうして我々を管理・誘導し、その領域は今後ますます拡大し、精度も高まっていくだろう、という次第だ。

 

D
ああ、要するに「生ー権力」的な管理ということね。近代のパノプティコンによる規律訓練型ではなく。

 

B
話が一気に抽象化したけど、まさにその通り。なんか人工知能が広がっていく未来というのは、「それが人間を凌駕して私たちは支配される」と考える向きが強くないかい？それこそオーウェルの『1984』とか映画「ターミネーター」・「マトリックス」みたいにさ。しかしね、今日出てきた例を元に考えるなら、果たして時計もスマートフォンも、我々を奴隷状態になんかしてないじゃないか。だってどちらも身に着けることを強制する・されるわけでもなく、またそれらが示す時刻やルートに従わなかったからといって、機械(器械)は憤慨したりしないし、それによってそっぽを向いてしまうわけでもない。端的に言えば、それらは俺たちの支配を志向していないのさ(まあそれを介して人間が大衆を操るって話なら、Cambridge Analyticaの例を見るまでもなく簡単に予測のつくところだがね)。しかしそれにもかかわらず、我々はその示すところに粛々と従っているではないか。

 

D
人工知能も、そしてそれが汎用化した未来の我々も同じってこと？

 

B
もちろん、確たる数字的なエビデンスを元に話してるわけじゃあないぜ。だけど、人工知能の発達と未来の我々についての様々な考察を見ると、しばしば次の思いにとらわれるのさ。具体的には、

１．
広大な宇宙の中の、「地球」と自称している小さなサル山にいるだけで自分を特別だと思っている(その典型が宗教なのだが)度し難いサル＝人間のことなど、人工知能にとってはどうでもいいんじゃね？

２．
人が人工知能との未来を考える時、しばしばミッシェル＝フーコーのパノプティコンによるモデルで思考している。すなわち、人工知能という名のパノプティコンに管理・監視される未来だ。しかしながら、現代の我々の管理方法がすでにそのような規律訓練型の近代的方法から脱して「生ー権力」タイプのものに移行しつつあるというのに、未だ20世紀の作法でものを考えている以上、マックの椅子にコントロールされているのと自覚しないのと同じことで、ゴチャゴチャ危機感のようなものを口にしながらも、結局はその中に取り込まれていくだろう。

てな。 

 

D
問題点を正しく捉えてない、と？

 

B
有り体に言えばそういうことや。１は、たとえば人工知能と言ってもいわば「超人類」的なもんじゃなくてコンピューターがより高度化しただけっすよ、みたいな議論が出てくることもあるし、それにある程度納得できる部分も自分はある。だけど、時計やスマホの事例から考えるに、どっちにしろ人間はそれへの依存を強めていくんじゃないか？もう少し言うと、「超人類」ならば思い上がったサルを支配しようと志向する必要もなく(重力に縛り付けられたサルは置いてどっか行っちまうかもなｗ)、逆にそれが高度なコンピューターでしかないなら、時計やスマホと同じになるだろう。要は、どちらにしろパノプティコンのようなものにはならない。

 

D
２については、確かに機械の発達した未来イメージって、なんか「ビッグ・ブラザー」の統治下みたいに捉えてる向きのが多い感じがするね。

 

B
まあ『1984』的なメタファーが生きてんじゃない？あとは結局「生ー権力」的支配を理解できず、今でも近代的な自由意思の概念と、パノプティコン支配で物事を考えてる人が多いってことかな。おそらく前者の縛りが強いような気がするけども。でも、監視カメラとかを地域住民が自主的に設置し始めている状況などを踏まえて、「今の状況は、ビッグブラザーではなく、リトルピープルによる相互監視社会化が進んでいる」なんて言われてたのはゼロ年代(10年かそれ以上前)なんだけどね。たとえば東浩紀は、2002年にはsuicaなどでによって膨大なデータが蓄積される話を元にデータベース管理・支配とでもいうべき「環境管理型」支配をミッシェル＝フーコーの規律訓練型支配に対置して論じたし、宇野常寛が『リトルピープルの時代』を書いたのは2011年。つまりゼロ年代の終わりだ。ちなみに監視社会化というのもこの時代にしばしば問題にされたよね。

 

D
まあそこいらは9.11の影響もあるだろうな。

 

B
もちろん。ともあれ、日本社会だけに絞ってもそういった蓄積をしてきたわけで、それを踏まえれば人工知能が発達した未来像というものについても「生ー権力」、東浩紀が言う所の環境管理型的支配の視点も踏まえて考えねばならないのに、今もって旧来の自由意思・パノプティコン型のイメージから抜け出せないのはどういうわけか？

 

D
健忘症にかかってんじゃない？ｗ

 

B
まあそりゃ大いにありえるなｗただ一応言っておくと、2017年に出た國分功一郎の『中動態の世界　意志と責任の考古学』みたいな興味深い著作もある。情報とか技術って観点とは違うけども、記述しようとしている問題意識は今回のテーマと似ているというかね・・・でまあリスクがどうこう言ったところで、「便利だ」という理由でユビキタスとバイトメトリクス化が進んできた今日を見ると、これから先それが逆行すると考えるのはナンセンスだろうよ。

 

D
でもさ、バイオメトリクスじゃないが遺伝子操作をした赤子を誕生させた中国は国際的に非難されてるぜ。

 

B
確かに。だが、結局批判を他よりも気にしない連中だからこそ、そうした知見を積み重ねて「障がいを回避できる状況」を作れる可能性が他の国より高い。これはナチスドイツが人体実験を通じて多くの医学的知見を獲得したことを想起すれば思い半ばに過ぎるだろう。でさ、金を持ってる連中はこぞって利用しようとするだろうよ。

 

D
あーね。今でも臓器移植の闇取引が新疆とかであるらしいからな。

 

B
そうそう。でさ、『サピエンス全史』の終盤で話題に上がってたアンチエイジング技術も、今それに血眼になってる女性連中の様子、正確にはそうさせようとしている広告の数々を見ると、これまた蜜に群がる蟻のように実態としてはどんどん人が集まり金を落としていくだろうね。

 

D
まあ今のトランプ現象を見てたら、「快楽」という本音に建前が勝てない状況ってのがどんどん前景化してっからなあ。

 

B
まあ「快楽」の一言で片づけると色々誤解を招きそうなんで気をつけた方がいいけどね。それは移民排斥とかが「快楽」って言われると違和感を覚える人も多かろうってのもあるが、たとえば快楽の対立概念に思える「禁欲」にしてからが、それが例えば「天国に行くことを目的とした禁欲」なら、いわゆる「快楽主義」とは「快楽」のレンジが違うだけって話じゃん。

 

D
「ご褒美」を得られるタイミングが違うだけって話かな？

 

B
そゆこと。まあこれはちょっと「ヨブ記」的な話にもなって面倒だから、今回は踏み込まんけどさ。話を戻すと、便利さを追求した結果キャッシュレス化・ペーパーレス化などとともにバイオメトリクス化も進み、データ化されていくだろう。俺たちの購入記録が蓄積され、あれこれお勧めしてくるamazon先生のようにね。

 

D
なるほど。じゃあ最後に結論を再確認すると、人口知能の奴隷に人類はならないけど、実際に依存は進んでいくってことでいいかい？正しくは、「自由意思は毀損されないがゆえにそれを自分では奴隷状態だと思わないが、外から見たら行動の大半をそれに依存しているがゆえに奴隷にしか見えない状態となる」て感じかしらん。

 

B
まあそうだね。重要なことは、その善悪を判断する前に、まず状況を正しく認識しなけりゃリスクも対応策もないでしょって話よ。その上でこの流れに掉さしたいのなら、「自由意思が毀損されてないし、少なくともそう感じないから我々は自由だ」というオールドファッションな自由意思の概念を横において、いかに我々が生理的に、見えない形でコントロールされているのかを記述し、注意を喚起するところから始めないといけないんじゃない？あと、さっき「快楽」の話をしたけど、欲望を意思の強さでコントロールすることがこれまでずっと「理性」と思われてきた感がある。そしてそれが、人間が動物と違う所以だとね。しかし、もっと即物的・生理的に人間の行動パターンを見ていく必要が・・・・

 

D
例えば依存症を人間の意思の問題ではなく、脳内伝達物質の問題であると考えて対処するような？

 

B
その通り。いい加減、精神主義的な人間理解から脱却しないとね。もっとストレートに言ってしまえば、認知科学的な知見を積極的に学んで人間のコントロールの仕方を知らなければ、コントロールのされ方にも気づきようがない、ということ。この具体例としては、行動経済学や道徳心理学などが挙げられる。ともあれ、時計やスマホの受け入れられ方、そして人工知能と人間社会の未来についての語られ方を併せて見る時、「我々は人工知能に支配されるのではなく、自由意思でその奴隷となるであろう」と予測するのは荒唐無稽な行為じゃないと思うぜ。

 

D
ということはつまり・・・

 

B
You、自由意思でAIの「奴隷」になっチャイナYO!

 

D
ドイツっぽくない上、微妙にライムを踏んでるとこが腹立つわ～(# ﾟДﾟ)

 

B
じゃあ・・・と最後にネタを言おうと思ったが、もう精根尽き果てましたわ(;´･ω･)

 

D
お後がよろしいようで・・・