9月28日
マルレク第三回 IT技術者のための情報理論入門―エントロピーと複雑さについて
について聞いてきたのでメモメモ
(表題の件は、後半のほうの「(とばして)」の直前に書いてある。
ここまで話したら、結構飛ばしてしまったので、複雑さについては、
そんなに聞いていない気がする・・
資料の付録についているのかな?)
・ITの話よりは物理?大まかな概念をつかんでもらえば・・
・エントロピー 長い歴史:19Cから→当時の先端蒸気機関に→熱力学
統計的手法、原子論→マクロ:ミクロとマクロの橋渡し 統計力学
ボルツマン、マックスウェル
原子論:マッハに認められなかった
→原子:アインシュタイン 26才のとき
ボルツマン:精神を病んで2006年自殺
マシンに個人名:チューリングマシン、ボルツマンマシン:2人とも自殺
お母さんがボルツマンの孫という人が日本にいる
・エントロピー:時代に応じて姿を変える
→シャノン 20C 情報理論→フォンノイマン
→21C 再評価:物理基礎理論 量子力学
アインシュタイン VS ボーア
1935年 量子エンタグルメント 量子のもつれ
・P=NPを解いたというやつ→解いてない
・情報理論:シャノン圧倒的に強い
量子論と相対論
これから来る変化:量子情報、量子コンピューター
・イノベーションと科学
技術と人口増
産業革命が人間の生活を変えた:18Cにシンギュラリティ?
→17C科学革命:ニュートン
それ以前は中世
・18C 産業革命
19C 機械制大工場
20C ENIAC
21C Google
・1854年 ペリーが江戸幕府に送った電信機
1876年 ベルの電話
今 ケータイ
・1891年の電信ネットワーク
2017年のネットワーク
→今が進んでいると思うのは幻想
技術:相対的にみる
・HAM → インターネット
・技術を基礎づける科学
エントロピー:clausiusによって1856年?につけられた名前
1776年:ワット 蒸気機関
Carnot(カルノー) 蒸気機関の効率化
→熱量のすべてを仕事に変えられない:エントロピー
ギブス、ヘルムホルツ:自由エネルギー、エントロピー
自由エネルギーF=内部エネルギーU-温度T・エントロピーS
→エネルギーを温度でわると、なぜ情報量?
ボルツマンが可能にした
・20Cグローバルネットワーク
→シャノン 通信の数学的理論
・シャノンの基本的関心
できるだけ正確に伝えるには、何をすればいいか
テレタイプ
・エントロピーをイメージする
熱力学第一法則 エネルギーは保存する
熱力学第二法則 エントロピーは増大する
人間:太陽のエネルギーに帰着する
第二法則:不等号
・ものは、朽ち果てる
朽ち果てたものは、元には戻らない
→物事は乱雑になっていく:落ちた卵、拡散するガス
時間が決めている:そうでもない 時間を逆に回すと、元に戻る
・2色のインクをかきまぜたら?
→比重が違えば分離する。分離しないのはなぜ?
もし、粒が大きく、Nが少なければ=中が見える
でも、Nがおおきくなると・・・見えなくなる
細かくすると、赤・青以外の数になる
→アボガドロ数
圧倒的に、分離する可能性は、低いから
・コーヒーにミルクが混ざるのを待つ
エントロピー→一様になる:単純
エントロピー最大:熱的一様
・部屋のガスは広がる
宇宙のガスは・・・ブラックホールに吸い込まれる
→ブラックホールを考えると、エントロピーは?
→21Cのエントロピー
・Power of 10
時間のスケール:もっとも古い宇宙の年齢
エネルギーのスケール:光子のエネルギー→超新星爆発
・さるのタイピスト
サルのタイプライター仮説:シェークスピアの作品を打ち出す可能性
monkeyと打つ確率:サマージャンボ当たる確率より、30倍難しい!
→無限のサルの定義
・自然言語には辞書がある
でも、すべての文を含むシラバスは作れない
・ベンジオの次元の呪い
ランダムな語;アクセスできなくなる
・ボルツマン
S=K log W
S:エントロピー
K:ボルツマン定数
W:ミクロな状態をカウントした
・原子論者ボルツマン
要素に還元:ある性質は失われていく
異端の学説 原子論
古代ギリシャの原子論:デモクリトス→プラトンは焼かせていた
サルのタイプライターの論理:キケロも批判
デモクリトス以来の量子コンピューティング
19Cでも、原子の存在は疑われていた
アインシュタインのブラウン運動→ボルツマン知ってる
・ミクロの世界とマクロな世界
隠される情報と新しい情報の「出現」
→マクロを切っていけば、正しい認識になるわけではない
→マックスプーリング
→印刷の世界
・情報の損失としてのエントロピー
減った情報がエントロピー
バエズの導出
失われるけど、得るものがある
・Nこのやつが、K個の状態をとる
どれくらいの可能性があるか
の式のlogをとって
スターリングの公式 logN! ≒ nlogn-n 使って
:
:
ボルツマンの式はでてくる
・カノニカル分布の分配関数 SoftMaxに出てくる
・異なるメッセージの数
の対数をとって
スターリングの公式 logN! ≒ nlogn-n 使って
:
:
ボルツマンの式はでてくる
→ボルツマンは状態、シャノンはメッセージ
異なるものだけど、おなじように数え上げている
(とばして)
・21世紀
エンタングルメントとエントロピー
ブラックホールのエントロピーの発見
No Hair 定理観測可能量3つ
ベッケンシュタイン:エントロピーあるよ!
ホーキング 比例定数は1/4だ!
サスキンドの計算
ブラックホール 光子1個とびこむと、プランク長2乗増える
→情報がふえる;表面積増える
AND回路、OR回路:エネルギー
閉じた形:エネルギーを減らす・エントロピー
構造が生まれる
・ブラックホール輻射
なにもないのに、なぜエントロピー?
ブラックホールは蒸発する
→ブラックホールは、温度も持つ
(絶対0°に近いけど)
最後に爆発
・ブラックホールで情報は消滅するか?
大事な問題 ペンローズ:情報が失われる
・AdS/CFT対応
重力:うまくいかない
1998年 マルデセーナ 量子論と相対論の接点
スーパーストリング
ループ
→両派とも認める
・笠と高柳
エンタグルメント
量子もつれあいが、エントロピーを持つこと
ラームズダンク:エンタグルメントのエントロピーが時空を縫い合わせる
・テンソルネットワーク
凝縮系物性論のチャレンジ
へルミオン ボソンに凝縮
→常温超伝導:クーパーツ理論では説明できない
トポロジー絶縁体(ビスマス)→超伝導が表面だけ起きる
立体だとあらわれないけど、次元を下げると
・エントロピーがArea則を満たす
計算が簡単になる
AdS/CFT対応とテンソルネットワーク(MERA)
・AMPSパラドックス2012
The Firewall Paradox
外側から粒子を集めて中にアリスが入ったら?
エンタグルメント モノガミー(Monogamy)
・ER=EPR
1935年のアインシュタインの2つの論文
神はサイコロを振らない
ER論文:ブラックホールがつながっている
ERとEPRは同じ?
→共感をもって
・現代物理学の俯瞰図
真ん中に量子情報理論
・It from bit ウィーラー
it from Qubit
・科学によって切り開かれる時代
情報とエネルギーを結びつけた世界
量子コンピューター:10年以内に