AIを封じ込めよ DeepMind創業者の警告

　テクノロジー開発、特に自律学習型のＡＩと合成生物学のリスクの巨大さを指摘し、その開発の封じ込めの必要性を訴える本。
　最初の３章約３５０ページは、テクノロジーの発展の歴史、その恩恵とそれ故にその開発や利用を押しとどめることの困難さが、手を替え品を替え語られています。著者の危機感の共有と実行の困難さを説得力を持って語るためではありましょうが、本題に入る前が長すぎるように思えます。これを５０ページくらいにしてくれると、ずいぶんと読みやすい本になると思うのですが。
　自由な開発の結果誰もが容易に利用できることで悪意ある者による破壊的な行為や善意者でもミスによる取り返しのつかない行為がなされるリスクと、それを禁止するための全面的な監視社会の間で、どうやって行けばよいのかという困難な問題について、著者はいくつかの提言をしています。技術的な安全性確保・制約、現在のコピー機やプリンターに紙幣の複写や印刷を禁ずる技術が取り入れられている（３８１ページ）とか、すべてのＤＮＡ合成機を安全で暗号化された集中型システムに接続し病原性配列の有無を検査するプログラム（３８６ページ）などはなるほどと思います。開発者の許認可制とか現代版「ヒポクラテスの誓い」を作るなどさまざまなことがいわれ、前向きに検討すべきと思いますが、前半でテロリストの脅威が強調されたことをみるとそれで対応できるのかとも思います。
　今後の１０年間で「数十億の誰もが平等に、最高の弁護士、医師、戦略家、デザイナー、コーチ、経営アシスタント、交渉人として頼れるACIにアクセスできる」（２５６～２５７ページ）って、ＡＩに真っ先に代替・駆逐されるのは弁護士なのか…


原題：THE COMING WAVE
ムスタファ・スレイマン、マイケル・バスカー　訳：上杉隼人
日本経済新聞出版　２０２４年９月２５日発行（原書は２０２３年）