GetUpEnglishについて
毎日更新！ GetUpEnglish Updates Every Day!
Since April 1, 2006 (c) 2006-2025 Uesugi Hayato（上杉隼人）
国際ジャーナリストの大野和基さん（https://www.kaz-ohno.com/）が『THE COMING WAVE AIを封じ込めよ DeepMind創業者の警告』の著者ムスタファ・スレイマンに、『VOICE』2月号（PHP）でインタビューしています。
https://www.php.co.jp/magazine/voice/?unique_issue_id=12566
これは非常にすぐれたインタビューです。
AIもAGI（汎用人工知能）の特徴も、それらが合成生物学と合体した時の危険性もとてもわかりやすくまとめられていますし、日本被団協のノーベル平和賞受賞に触れながら、「カタストロフィが起きてからでは遅すぎる」と話して改めて警鐘を鳴らしてくれています。
大野さんのインタビューはそれだけで終わらずに、トランプ政権下でのイーロン・マスクの危険性、さらにはサム・アルトマンのOpenAIの「隠された脅威」も引き出されています。スレイマン自身もこれほどレベルの高い質問をしてもらい、自分でも満足のいくことが言えて、とてもうれしかったことでしょう。
『VOICE』2月号の大野和基さんのインタビューをぜひご覧ください！
https://www.php.co.jp/magazine/voice/?unique_issue_id=12566
これは非常にすぐれたインタビューです。
AIもAGI（汎用人工知能）の特徴も、それらが合成生物学と合体した時の危険性もとてもわかりやすくまとめられていますし、日本被団協のノーベル平和賞受賞に触れながら、「カタストロフィが起きてからでは遅すぎる」と話して改めて警鐘を鳴らしてくれています。
大野さんのインタビューはそれだけで終わらずに、トランプ政権下でのイーロン・マスクの危険性、さらにはサム・アルトマンのOpenAIの「隠された脅威」も引き出されています。スレイマン自身もこれほどレベルの高い質問をしてもらい、自分でも満足のいくことが言えて、とてもうれしかったことでしょう。
『VOICE』2月号の大野和基さんのインタビューをぜひご覧ください！
THE COMING WAVE AIを封じ込めよ
DeepMind創業者の警告
価格 2,420円（税込）
ISBN 9784296118755
発行日 2024年09月30日
著者名 ムスタファ・スレイマン 著、マイケル・バスカー 著、上杉 隼人 訳
発行元 日本経済新聞出版
ページ数 480ページ
判型 四六判
https://bookplus.nikkei.com/atcl/catalog/23/12/11/01167/
DeepMind創業者の警告
価格 2,420円（税込）
ISBN 9784296118755
発行日 2024年09月30日
著者名 ムスタファ・スレイマン 著、マイケル・バスカー 著、上杉 隼人 訳
発行元 日本経済新聞出版
ページ数 480ページ
判型 四六判
https://bookplus.nikkei.com/atcl/catalog/23/12/11/01167/
ＤｅｅｐＭｉｎｄの共同創業者、現マイクロソフトＡＩのＣＥOによる全人類への警告書 ムスタファ・スレイマン、マイケル・バスカー『ＴＨＥ ＣＯＭＩＮＧ ＷＡＶＥ ＡＩを封じ込めよ ＤｅｅｐＭｉｎｄ創業者の警告』上杉隼人訳、日経ＢＰ／ 日本経済新聞出版）刊行に寄せて 上杉隼人
今日のＡＩ（人工知能［artificial intelligence］）システムの進化はめざましい。物体も人間の顔もほぼ完璧に認識し、音声からテキストへの変換も、瞬時の言語間の翻訳も問題なくこなす。ＡＩナビで自動運転も可能だ。いくつか簡単なプロンプトを与えれば、新世代の斬新な画像を生成し、情報量の多い論理的な文書も書き上げる。驚くほどリアルな合成音声も生成可能だし、美しい音楽も作曲する。長期的な計画も立ててくれるし、想像力が求められる複雑なアイデアをシミュレーションするなど、かつては人間にしかできないと思われていたことも軽々とこなしてしまう。
ＡＩ、さらにはＡＩが最も賢い人間以上に人間の持つすべての認知能力を実行できる段階にあるＡＧＩ（汎用人工知能［artificial general intelligence］）は、数年後には人間と同じレベルでさまざまなタスクを処理できると思われるし、実はすでに実現しているのかもしれない。
だが、このＡＩがロボット工学、合成生物学、量子コンピューターといった同じく急激な進化を遂げている新世代テクノロジーと組み合わさることで、開発者すら想定していない未曾有の大混乱と大惨事がもたらされる可能性がある。
今日のＡＩ（人工知能［artificial intelligence］）システムの進化はめざましい。物体も人間の顔もほぼ完璧に認識し、音声からテキストへの変換も、瞬時の言語間の翻訳も問題なくこなす。ＡＩナビで自動運転も可能だ。いくつか簡単なプロンプトを与えれば、新世代の斬新な画像を生成し、情報量の多い論理的な文書も書き上げる。驚くほどリアルな合成音声も生成可能だし、美しい音楽も作曲する。長期的な計画も立ててくれるし、想像力が求められる複雑なアイデアをシミュレーションするなど、かつては人間にしかできないと思われていたことも軽々とこなしてしまう。
ＡＩ、さらにはＡＩが最も賢い人間以上に人間の持つすべての認知能力を実行できる段階にあるＡＧＩ（汎用人工知能［artificial general intelligence］）は、数年後には人間と同じレベルでさまざまなタスクを処理できると思われるし、実はすでに実現しているのかもしれない。
だが、このＡＩがロボット工学、合成生物学、量子コンピューターといった同じく急激な進化を遂げている新世代テクノロジーと組み合わさることで、開発者すら想定していない未曾有の大混乱と大惨事がもたらされる可能性がある。
可能性は低いかもしれないが、一度起こってしまえば甚大な影響がもたらされる。たとえわずかな可能性であっても、緊急に対応しなければならない。だが、まだ何も準備ができていない。このまま強力なテクノロジーの「封じ込め」（英語のcontainmentで、管理し、制限し、止めること）に失敗すれば、現在の国家は崩壊し、世界秩序は大混乱に陥る……。
本書は、AlphaGoを開発したＤｅｅｐＭｉｎｄの共同創業者で、現在はマイクロソフトＡＩのＣＥＯを務めるムスタファ・スレイマン（Mustafa Suleyman, 一九八四年～ ）の全人類に対する警告書だ。一年前の二〇二三年九月に原書が刊行されて以来、世界中で大変な話題を集めている。
この注目の一冊がついに日本に上陸、先月末に日経ＢＰ／ 日本経済新聞出版より刊行された。
封じ込めは可能か？
テクノロジー創出者として、私はテクノロジーが桁外れの価値をもたらし、無数の人たちの生活を改善し、次世代クリーンエネルギーから安価な難病治療まで、数々の難問に対処してくれる、と信じている。テクノロジーは人類の生活を豊かにできるし、そうでなければならない。歴史を振り返れば、テクノロジーと、その発明家や起業家は、人類の進歩を強力に推し進め、数十億人の生活をよりよいものにしてきたし、それが繰り返されてきた。
だが「封じ込め」ができなければ、テクノロジーの倫理的問題点や恩恵を論じても無意味だ。来たるべき波を管理し封じ込める方法と、民主主義国民国家の安全装置と活動の許容範囲をいかにして堅持するか、しっかりとした答えを至急出さなければならないが、現時点では誰も具体案を持ち合わせていない。私は誰も望まない未来が訪れるという不安を強めている……。（『ＴＨＥ ＣＯＭＩＮＧ ＷＡＶＥ ＡＩを封じ込めよ ＤｅｅｐＭｉｎｄ創業者の警告』30ページ）
本書『ＴＨＥ ＣＯＭＩＮＧ ＷＡＶＥ ＡＩを封じ込めよ ＤｅｅｐＭｉｎｄ創業者の警告』における著者ムスタファ・スレイマンの主張は一貫している。
人類は未曾有の力を備えた「来たるべき波」（The Coming Wave）を迎えつつある。来たるべき波はかつてない規模の富と利益を生み出す人工知能（ＡＩ）と合成生物学のふたつの中核テクノロジーを有するが、このふたつのテクノロジーが急速に拡散すれば、さまざまな形で悪用される可能性もある。それによって想像もできない大規模な混乱が生じ、社会は不安に陥り、大惨事が引き起こされるかもしれない。来たるべき波は、二十一世紀の行く末を決する非常に大きな問題を生み出すのだ。われわれは新テクノロジーがもたらす恩恵を享受しつつ、その「封じ込め」を試みることが必要だ。それができなければ、人類は悲惨な状況に置かれる可能性がある。
ふたつのＡＩ会社、ディープマインド（のちにグーグルに買収）とインフレクションＡＩを立ち上げ、最先端ＡＩ技術を開発しつつも、その使い方には常に慎重で、グーグル在籍時にはＡＩ倫理諮問評議会を社内に設置することも求めたスレイマン（現在はマイクロソフト ＡＩのＣＥＯを務める）は、状況を明確に見据え、このように提言する。
だが、４つの特性（「オムニユース（汎用性がある）」「超進化」「非対称（力の差を埋める〝非対称インパクト〟がある）」「自律性（自ら学習して進化する）」）を備えた来たるべき波の封じ込めは容易ではない。
今何が起こりつつあるのか？ 何が波の封じ込めをむずかしくしているのか？ 波を封じ込められなければどうなるか？ 封じ込めを実現するにはどんなことが必要か？
スレイマンは本書を通じて、こうした問題を論じながら、今を生きるわれわれだけでなく、これからの世代の行く末を占う。
スレイマンは第Ⅰ部で、数千年にわたるテクノロジーの歴史をひもとき、テクノロジーの波がどのように広がったのかを概観する。どうして波は社会に浸透したのか？ 波を拒んだ社会はどうなったか？
第II部では、来たるべき波について詳細に論じる。ＡＩ、合成生物学、ロボット工学、量子コンピューターなどのテクノロジーが激しく複雑に絡み合いながら、指数関数的に（exponentially）発展していく中、多くの国家や企業や団体は競い合うように開発を進める。政治、経済、そのほかの理由によって、新テクノロジーの開発を止めることはむずかしい状況にある。
第III部では、来たるべき波が封じ込められなかった場合にどんなことが起こるかが論じられる。現在の政治秩序の基盤であり、テクノロジーを封じ込める上で最も重要な役割を果たすのは、国民国家（nation-state）だ。だが、封じ込めが失敗すれば、国民国家が弱体化し、そこから新しい形態の暴力が生まれ、偽情報が拡散し、仕事は消滅し、壊滅的な大災害が発生するかもしれない。来たるべき波は権力構造に変化と転換をもたらし、そこから新たな独裁的な巨大企業がつぎつぎに誕生し、伝統的な社会構造から外れたグループも力を得ることになる。人類はディストピアか破局かというジレンマに陥るのだ（人類は既知の宇宙における支配的な種から初めて転落するのだ［三二七ページ］）。
どうすればテクノロジーの波を封じ込めることができるだろうか？ 第IV部で、ムスタファ・スレイマンは「封じ込めへの10ステップ」を提言する。コンピュータープログラムやＤＮＡ組み換えのレベルから、国際条約の管理まで、十の厳格な制約を封じ込めの基本計画として提案する。殺戮兵器を作り出すことも、コロナウイルスよりも致死性の高い病原体を作り出してドローンで巨大都市に散布することも可能なテクノロジーを封じ込めるにはどうしたらよいか？ ＡＩの普及により仕事を失う可能性のある人たちにどんな対応をするべきか？ これまでほとんど論じられることがなかった対応策が、ここで具体的に提言される。
現在、ＡＩ規制については全世界で論じられているし、その関連のニュースはほぼ毎日報じられている。来たるべき波がすぐそこに迫りつつある現代において、本書は全世界の政治家やテクノロジー開発者だけでなく、新テクノロジーがもたらす有益なものを手に入れつつあるわれわれ多くの者たちも読むべき一冊だ。
ユヴァル・ノア・ハラリ（歴史学者、『サピエンス全史』）、ビル・ゲイツ（マイクロソフト共同創業者）、アン・アプルボーム（ピューリッツァー賞受賞、歴史家）、ダニエル・カーネマン（ノーベル経済学賞受賞、『ファスト＆スロー』）、ヌリエル・ルービニ（ニューヨーク大学名誉教授）、アル・ゴア（元アメリカ副大統領）、アンドリュー・マカフィー（MITスローン経営大学院首席リサーチ・サイエンティスト）、アラン・ド・ボトン（哲学者、作家）、マーサ・ミノウ（ハーバード大学教授）、エリック・シュミット（元グーグルＣＥＯ）、イアン・ブレマー（政治学者、コンサルティング会社ユーラシアグループ社長、『危機の地政学』）、デイヴィッド・ミリバンド（イギリス元外務大臣）、グレアム・アリソン（ハーバード大学ケネディスクール初代院長、『米中戦争前夜』）、アンジェラ・ケイン（元国連軍縮担当上級代表）、ブルース・シュナイアー（サイバーセキュリティ研究者）、エリック・ブリニョルフソン（スタンフォード大学教授、人工知能学者）、ジェイソン・マセニー（ランド社CEO、元テクノロジー担当大統領副補佐官）、スティーブン・フライ（俳優、放送作家）、サー・ジェフ・マルガン（ユニバーシティ・カレッジ・ロンドン［ＵＣＬ］教授）、リード・ホフマン（リンクトイン共同創業者、インフレクションＡＩ共同創業者）、フェイフェイ・リー（コンピューター科学者）、ジェフリー・Ｄ・サックス（経済学者、国連ミレニアムプロジェクト・ディレクター）、チー・ルー［Qi Lu］（コンピューター科学者、ミラクルプラスＣＥＯ、元マイクロソフト執行副社長）、メーガン・Ｌ・オサリバン（ハーバード大学ケネディスクール・ベルファー科学国際問題センター所長）、トリスタン・ハリス（テクノロジー倫理学者）、スチュアート・ラッセル（カリフォルニア大学バークレー校コンピュータサイエンス学部教授）、ニーアル・ファーガソン（歴史家、スタンフォード大学フーヴァー研究所シニアフェロー、『キッシンジャー』）、ジャック・ゴールドスミス（ハーバード大学法科大学院教授）、エリック・ランダー（元アメリカ大統領首席科学顧問）、ケビン・エスヴェルト（ＭＩＴメディアラボ准教授、生物学者）、エフード・バラク（イスラエル元首相）、ケビン・ラッド（オーストラリア元首相）と実に多くの錚々たる政治家、テクノロジスト、ビジネスリーダー、作家、学者が推薦文を寄せた本書は、まさに時代が求める一冊と言える。
波を封じ込めれば、何が手にできるか？
膨大で詳細な調査をもとに全世界が知りたい情報を網羅し、マイケル・バスカーの印象的な詩的表現でドラマチックにつづられる本書を数カ月で訳すのは大変な作業であったが、多くの人たちの支援を得てどうにかやり遂げることができた。この場を借りて、その人たちに謝意を表したい。
大作の訳書に抜擢してくださった日本経済新聞出版本部長の國分正哉さんと同編集部の金東洋さんに、深く感謝申し上げる。特に金さんには翻訳上で貴重なアドバイスをいくつも賜り、事実確認、訳文の向上も精力的にはかっていただいた。金さんの力強く寛大な支援と励ましがなければ、とてもできない仕事だった。
夏村貴子さん、坂元理人さん、片桐恵里さん、品川暁子さん、玉木史惠さん、楠田純子さんには原稿段階で訳文と原文との突き合わせをお願いし（おかげで訳文の質が加速度的に向上した）、眞鍋惠子さん、玲子さんには合成生物学に関する表現を確認していただき、上原昌弘さんにはゲラを念入りに校正していただいた。皆さんに厚くお礼を申し上げる。
＊
来たるべき波を封じ込めるのはむずかしいし、できないかもしれない。だが、われわれは立ち向かわなければならない。波を封じ込めることができれば、われわれには何を手にできるのか？
ムスタファ・スレイマンは最後にそのことも示してくれている。スレイマンのその言葉から希望が生み出され、来たるべき波の封じ込めに向けた活動が具体化するかもしれない。
ＡＩ時代最重要書の一冊と言える本書が多くの方に読んでいただけることを願っている。
上杉隼人（うえすぎはやと）
編集者、翻訳者（英日、日英）、英文ライター・インタビュアー、英語・翻訳講師。早稲田大学教育学部英語英文学科卒業、同専攻科（現在の大学院の前身）修了。訳書にマーク・トウェーン『ハックルベリー・フィンの冒険』（上・下、講談社青い鳥文庫）、ジョリー・フレミング『「普通」ってなんなのかな 自閉症の僕が案内するこの世界の歩き方』、ジョー・ノーマン『英国エリート名門校が教える最高の教養』（文藝春秋）、ベン・ルイス『最後のダ・ヴィンチの真実 ５１０億円の「傑作」に群がった欲望』（集英社インターナショナル）、ウィニフレッド・バード『日本の自然をいただきます──山菜・海藻をさがす旅』（亜紀書房）、チャーリー・ウェッツェルほか『ＭＡＲＶＥＬ 倒産から逆転ＮＯ・１となった映画会社の知られざる秘密』（すばる舎）・ジョン・ル・カレ『われらが背きし者』（共訳、岩波現代文庫）のほか、ディズニー、マーベル、「スター・ウォーズ」関連の翻訳も多数（日英翻訳をあわせて九十冊以上）。
十二月には『ディズニーランド・パーク ポップアップ・パークツアー』（河出書房新社）、来年三月には『Marvel Anatomy 超人ヒーロー解体図鑑』（ＫＡＤＯＫＡＷＡ）の刊行が決まっている。
「図書新聞」No.3660･ 2024年10月26日号に掲載。https://toshoshimbun.com/「図書新聞」編集部の許可を得て、投稿します。
『図書新聞』（https://toshoshimbun.com/）3660号 (発売日2024年10月19日)に、『THE COMING WAVE AIを封じ込めよ DeepMind創業者の警告』について、書かせていただきました！
◆今週の一面◆
ムスタファ・スレイマン、マイケル・バスカー著『THE COMING WAVE AIを封じ込めよ』（日本経済新聞出版）邦訳刊行に寄せて
全人類への警告書――DeepMindの共同創業者、現マイクロソフトAIのCEOによる話題書の邦訳
上杉隼人
『THE COMING WAVE AIを封じ込めよ DeepMind創業者の警告』
とはまったく違うのですが、今度はこちらが発売になります。
ディズニーランド・パーク ポップアップ・パークツアー
マシュー・ラインハート 作
上杉 隼人 訳
チャーリー・プライス 文
ルイ・リカルド イラスト
単行本 B4変形 ● 2ページ
ISBN：978-4-309-25763-1 ● Cコード：8797
発売日：2024.12.03（予定）
これ、ほんとにすごいです！
限定生産なので、お早めに注文しないと、ほんとになくなってしまうかもしれません。
ぜひお早めのご予約をお勧めします！
河出書房新社のイカしたプロモーションチームとPR動画も作りました！
ぜひこちらもご覧ください！
本日発売の
THE COMING WAVE AIを封じ込めよ
DeepMind創業者の警告
ムスタファ・スレイマン (著/文)、マイケル・バスカー (著/文)
上杉隼人 (翻訳)
発行：日経BP 日本経済新聞出版
四六判 480ページ
定価 2,200円+税
の第1章が公開されています！
in a heapは「山積みになって」のほか、「どたりと〈倒れる〉」といった意味で使われる。
今日のGetUpEnglishはこの語を学習する。
○Practical Example
"After the long race, she collapsed in a heap on the ground, completely exhausted."
「長いレースの後、彼女は疲れ果てて地面に崩れ落ちた」
"When the old building was demolished, it fell in a heap of rubble."
「古い建物は取り壊され、がれきの山のように崩れ落ちた」
●Extra Point
「山のように」の意味でも使われる。
◎Extra Example
"The papers were scattered in a heap on the desk, making it hard to find anything."
「書類は机の上に山のように散らばっていて、何も見つけられなかった」
"The cat curled up in a heap of blankets and fell asleep."
「猫は毛布の山に丸くなって眠りについた」
THE COMING WAVE AIを封じ込めよ
DeepMind創業者の警告
著者名 ムスタファ・スレイマン 著、マイケル・バスカー 著、上杉 隼人 訳
DeepMind創業者の警告
著者名 ムスタファ・スレイマン 著、マイケル・バスカー 著、上杉 隼人 訳
発行元 日本経済新聞出版
ページ数 480ページ価格 2,420円（税込）
ISBN 9784296118755
発行日 2024年09月30日
https://bookplus.nikkei.com/atcl/catalog/23/12/11/01167/
内容紹介
■AlphaGoを開発したDeepMindの共同創業者でMicrosoft AIのCEOが警告
■AI、合成生物学、量子コンピュータ、新世代の技術が招く未曾有の大惨事
AI、ロボット工学、合成生物学、核融合、量子コンピュータ、DNAプリンター、自律型致死兵器、人工ウイルス……。
超進化する新世代テクノロジーが組み合わさることで、開発者すら想定していない未曾有の大混乱と大惨事がもたらされる。
人類は分水嶺を越えようとしている。だがまだ何も準備ができていない。このまま強力なテクノロジーの「封じ込め」に失敗すれば、現在の国家は崩壊し、世界秩序は大混乱に陥る。
私たちは一部の超巨大AI企業と金持ちに牛耳られた激しい格差社会で不安定な生活を強いられるのか。
あるいは権威主義体制のディストピア的監視社会で暮らすのか。
AlphaGoを開発したDeepMindの共同創業者で、Microsoft AIのCEOを務める著者が著した警告の書。
【本書に寄せられた賛辞】
「興味深く重要な本」――ユヴァル・ノア・ハラリ
「必読書」――ダニエル・カーネマン
「未曾有の時代を乗り切るための優れたガイドブック」――ビル・ゲイツ
「政府が取るべき緊急行動とその課題を提唱している」――グレアム・アリソン
「AIと合成生物学の到来により、今後10年間は人類史上最高のものか、あるいは最悪のものになる。スレイマンほど今後の壮大な課題を認識し、説明できる人はいない」――エリック・ブリニョルフソン
目次
用語集
プロローグ
第1章 封じ込めは不可能
第Ⅰ部 ホモ・テクノロジカス
第2章 果てなき拡散
第3章 封じ込め問題
第Ⅱ部 来たるべき波
第4章 知能のテクノロジー
第5章 生命のテクノロジー
第6章 広がる波
第7章 来たるべき波の4つの特徴
第8章 止められないインセンティブ
第Ⅲ部 弱体化する国家
第9章 国家と国民の「大いなる取引」
第10章 脆弱性増幅器
第11章 国家の未来
第12章 ジレンマ
第Ⅳ部 波を越えて
第13章 封じ込めは可能にせねばならない
第14章 封じ込めへの10 ステップ
1 安全性――技術的安全性を確立するための「アポロ計画」
2 監査――知識は力なり、力は制御なり
3 チョークポイント――時間を稼ぐ
4 開発者――批判する人も参加しよう
5 企業――利益とパーパス
6 政府――生き残り、改革し、規制せよ
7 同盟――条約締結に向けて
8 文化――謙虚に失敗から学ぶ
9 社会運動――人々の力
10 隘路――通過するしか方法はない
「人新世」の後の人類
謝辞
原註
https://bookplus.nikkei.com/atcl/catalog/23/12/11/01167/
ページ数 480ページ価格 2,420円（税込）
ISBN 9784296118755
発行日 2024年09月30日
https://bookplus.nikkei.com/atcl/catalog/23/12/11/01167/
内容紹介
■AlphaGoを開発したDeepMindの共同創業者でMicrosoft AIのCEOが警告
■AI、合成生物学、量子コンピュータ、新世代の技術が招く未曾有の大惨事
AI、ロボット工学、合成生物学、核融合、量子コンピュータ、DNAプリンター、自律型致死兵器、人工ウイルス……。
超進化する新世代テクノロジーが組み合わさることで、開発者すら想定していない未曾有の大混乱と大惨事がもたらされる。
人類は分水嶺を越えようとしている。だがまだ何も準備ができていない。このまま強力なテクノロジーの「封じ込め」に失敗すれば、現在の国家は崩壊し、世界秩序は大混乱に陥る。
私たちは一部の超巨大AI企業と金持ちに牛耳られた激しい格差社会で不安定な生活を強いられるのか。
あるいは権威主義体制のディストピア的監視社会で暮らすのか。
AlphaGoを開発したDeepMindの共同創業者で、Microsoft AIのCEOを務める著者が著した警告の書。
【本書に寄せられた賛辞】
「興味深く重要な本」――ユヴァル・ノア・ハラリ
「必読書」――ダニエル・カーネマン
「未曾有の時代を乗り切るための優れたガイドブック」――ビル・ゲイツ
「政府が取るべき緊急行動とその課題を提唱している」――グレアム・アリソン
「AIと合成生物学の到来により、今後10年間は人類史上最高のものか、あるいは最悪のものになる。スレイマンほど今後の壮大な課題を認識し、説明できる人はいない」――エリック・ブリニョルフソン
目次
用語集
プロローグ
第1章 封じ込めは不可能
第Ⅰ部 ホモ・テクノロジカス
第2章 果てなき拡散
第3章 封じ込め問題
第Ⅱ部 来たるべき波
第4章 知能のテクノロジー
第5章 生命のテクノロジー
第6章 広がる波
第7章 来たるべき波の4つの特徴
第8章 止められないインセンティブ
第Ⅲ部 弱体化する国家
第9章 国家と国民の「大いなる取引」
第10章 脆弱性増幅器
第11章 国家の未来
第12章 ジレンマ
第Ⅳ部 波を越えて
第13章 封じ込めは可能にせねばならない
第14章 封じ込めへの10 ステップ
1 安全性――技術的安全性を確立するための「アポロ計画」
2 監査――知識は力なり、力は制御なり
3 チョークポイント――時間を稼ぐ
4 開発者――批判する人も参加しよう
5 企業――利益とパーパス
6 政府――生き残り、改革し、規制せよ
7 同盟――条約締結に向けて
8 文化――謙虚に失敗から学ぶ
9 社会運動――人々の力
10 隘路――通過するしか方法はない
「人新世」の後の人類
謝辞
原註
https://bookplus.nikkei.com/atcl/catalog/23/12/11/01167/
THE COMING WAVE AIを封じ込めよ
DeepMind創業者の警告
ムスタファ・スレイマン (著/文)、マイケル・バスカー (著/文)
上杉隼人 (翻訳)
発行：日経BP 日本経済新聞出版
四六判 480ページ
定価 2,200円+税
【内容紹介】
■AlphaGoを開発したDeepMindの共同創業者でMicrosoft AIのCEOが警告！
■AI、合成生物学、量子コンピュータ、新世代の技術が招く未曾有の大惨事！
AI、ロボット工学、合成生物学、核融合、量子コンピュータ、DNAプリンター、自律型致死兵器、人工ウイルス……。
超進化する新世代テクノロジーが組み合わさることで、開発者すら想定していない未曾有の大混乱と大惨事がもたらされる。
人類は分水嶺を越えようとしている。だがまだ何も準備ができていない。このまま強力なテクノロジーの「封じ込め」に失敗すれば、現在の国家は崩壊し、世界秩序は大混乱に陥る。
私たちは一部の超巨大AI企業と金持ちに牛耳られた激しい格差社会で不安定な生活を強いられるのか。
あるいは権威主義体制のディストピア的監視社会で暮らすのか。
AlphaGoを開発したDeepMindの共同創業者で、Microsoft AIのCEOを務める著者が著した警告の書。
【本書に寄せられた賛辞】
「興味深く重要な本」――ユヴァル・ノア・ハラリ
「必読書」――ダニエル・カーネマン
「未曾有の時代を乗り切るための優れたガイドブック」――ビル・ゲイツ
「政府が取るべき緊急行動とその課題を提唱している」――グレアム・アリソン
「AIと合成生物学の到来により、今後10年間は人類史上最高のものか、あるいは最悪のものになる。スレイマンほど今後の壮大な課題を認識し、説明できる人はいない」――エリック・ブリニョルフソン
【目次】
用語集
プロローグ
第1章 封じ込めは不可能
第Ⅰ部 ホモ・テクノロジカス
第2章 果てなき拡散
第3章 封じ込め問題
第Ⅱ部 来たるべき波
第4章 知能のテクノロジー
第5章 生命のテクノロジー
第6章 広がる波
第7章 来たるべき波の4つの特徴
第8章 止められないインセンティブ
第Ⅲ部 弱体化する国家
第9章 国家と国民の「大いなる取引」
第10章 脆弱性増幅器
第11章 国家の未来
第12章 ジレンマ
第Ⅳ部 波を越えて
第13章 封じ込めは可能にせねばならない
第14章 封じ込めへの10 ステップ
1 安全性――技術的安全性を確立するための「アポロ計画」
2 監査――知識は力なり、力は制御なり
3 チョークポイント――時間を稼ぐ
4 開発者――批判する人も参加しよう
5 企業――利益とパーパス
6 政府――生き残り、改革し、規制せよ
7 同盟――条約締結に向けて
8 文化――謙虚に失敗から学ぶ
9 社会運動――人々の力
10 隘路――通過するしか方法はない
「人新世」の後の人類
謝辞
原註
アクセス
トータル
ランキング
