テロ拡散の責任をプラットフォーマーに問えるのか？：アルゴリズム、クラッパー、免疫化

 

なるほど、リコメンドでテロ関連の動画が上位に出てくるようになっているなら、そのようなシステムを構築しているプラットフォーマーの側にもテロの責任がある、という訴訟か。以前Neuro-samaの紹介なんかもしたことがあるけど、これが有罪となるか否かは確かにシステム設計の根本に関わる重大な問題やね(動画内ではChatGPTなども取り上げられている)。

 

個人的には、『CODE』や『コモンズ』を書いたレッシグがこれにどういう意見を持っているの興味があるわ(まだ調べられてないけど。ただまあ一気にプラットフォーム側の責任にまで飛躍させるのではなく、こういう事例を元にして制御の仕方について議論を深め、施策を打っていくべきである、という話になりそうな気はするが)。

 

動画内で登場するクラッパーの分析は何度も宮台真司が言及していることではあるが、自身の襲撃事件もあってか、どういう伝わり方をするか(説明の丁寧さ)をかなり慎重に考えている印象を受けた。特に、クラッパーの研究とその成果の捉え方について、「だからコンテンツには全く責任はありません。ハイ終わり」みたいな話ではなくて、「ただコンテンツを規制すればOK、みたいな脳死的政策をやっても問題の根本的解決にはならない」ということだと説明している部分(ここまでわざわざ踏み込んで言っているのを今まで聞いた覚えがない)。

 

これは社会的教訓として一般化する上でも、重要な指摘と言える。というのも、例えば「店舗型風俗が風紀を乱している！許さん→規制→単に地下に潜っただけで、何の解決にもならないどころかむしろコントロールがさらに難しくなってしまった」なんて話が思い出されるところで、要は「目立つものをただ封じ込めればOK」という神経症的な対症療法ではダメだということを意味している。

 

よって先のクラッパーの話に戻するなら、過激なコンテンツによって欲動され凶悪な犯罪を起こす＝それらに反応する火薬がすでに詰まってしまっていること(鬱屈やルサンチマン、あるいはそれが無軌道に増大する孤立的状況)が問題なんだから、そこを手当てしなきゃ遅かれ早かれ他の形で暴発することになる、と言っているのである(とここまで書けば、私が最近触れた提案、すなわち「生身の人間をパートナーとするのを常識とするなら、そこからあぶれた人々の怨念がインセルを生み出し続けることを避けられない」→「進化するAIやbot、メタバースで包摂する」という施策が、マックの椅子的なコントロールとしては機能しても、根本的な解決にはならないのも理解されることだろう。まあそこまで踏まえた上で、「で、どうするの？」て話をしているんだけども。なお、社会的視座を欠いた短絡的な自己責任論は、この二段階くらい手前で思考停止していると言える)。

 

あとは教育の問題も取り上げられているが、まあ難しいけどその通りやね(なぜ難しいかと言えば、繰り返し書いているように、これから「AIの進化」とパラレルに「人間の劣化」が進むからである)・・・よく言われることだが、技術は技術でしかないのであって、それを使うのは必謬性に満ちた人間である。そうである以上は、動画でも語られているように、ISISのリクルーティング(洗脳)の動画を見せつつそのレトリックを解体するなど、事前に免疫化を図るしか方法がないだろう。

 

これに関して言うと、以前書いた「ナチスドイツなどをただ悪魔化し、自分たちと関係ない狂人たちの所業みたいに教えても意味がない」というのと同じ話である(この意味で優れた素材は、例えば「THE WAVE」や「帰ってきたヒトラー」、「ヒトラー最期の12日間」のような映画である)。喩えて言うなら、病気に苦しむ人の姿を見せても、(例えばハンセン氏病を「業病」と呼んだように)差別などは助長するかもしれないが、病気に罹るのを止めることにはならないのと同じだ。つまり、そこに至る要因を明らかにすることが必要なのである。ナチスに話を戻すなら、なぜ彼らが政権を採り、国内はもちろん国外でも一定の支持を得て、ウスタシャなどをはじめ虐殺に手を染める人々がいたのか？といった点を背景まで含めて掘り下げないと、決してそれを教訓とすることはできないであろう(この話は毒書会の『全体主義の起源』や『イデオロギーとユートピア』選出の意図にもつながっている)。

 

というわけで今回は以上。