下の記事を書くために、WikiPedia を読んでいてこんな記事を見付けました。
情報量のノート部分
ノート:情報量
bit というのは、実際に使われている大きさを指し、shannon (シャノン)は、その情報が持っている実質的な情報量を示す。ということですね。
例えば、「はれ」と「あめ」を区別するために「はれ」や「あめ」と書けば 2bytes/文字 x 2文字 = 16 bitですが、実際には 2種類しかないので 1 bit あれば伝えられます。※1
ここから bit なら 16 bit で、shannon なら 1 shannon で表すことができるということでしょうか。※2
更に細かくいうと「はれ」が99%、「あめ」が 1% の砂漠がある場合、両方で 1 shannon なのは前述の通りですが
「はれ」という情報は 99/100 の確率で「はれ」だと推定され、間違っている確率は 1-99/100 = 1/100 なので、その程度の情報量しかなく全体の 1 shannon のうちの 0.01 しか情報を持っていません。(0.01 shannon)
「あめ」という情報は同様に 1/100 の確率で「あめ」だと推定され、間違っている確率は 1-1/100 = 99/100 の程度の情報量があり全体の 1 shannon のうちの 0.99 の情報を持ちます。(0.99 shannon)
また、絶対に雨の降らない月の上の天気の情報量は 0 shannon です。だって、伝えなくても分かるから、情報として意味がない = 0 なので。
冬の天気予報を聞いて「太平洋側はまた晴れか。天気予報なんて聞かなくても分かるな」= 情報量が少ない。「北海道で 20℃!?そんな馬鹿な」 = 情報量が多い ということです。
と思ったらどうも違う。う～ん、難しいなぁ。
※1 人間が 1 bit を知覚するのは大変ですが、コンピュータなどを使えば伝送路上のデータは減らすことができる。文字コードは SJIS or EUC or UTF-16 の場合です。音声で伝えると必要なデータ(bit)はもっと増えます。
※2 ただし、0=はれ、1=あめ 等という情報が事前に取り決められている必要があります。勿論「はれ」「あめ」で伝える場合も、日本語の知識が必要です。
lzh や、zip などで圧縮できるのは、この bit -> shannon の変換が行われていると考えることもできるのかな？(可逆圧縮のみで jpeg や mp3(mpeg系) とかは違う)。
http://www.elc.nias.ac.jp/~nagasaka/lect/ic/2000/OHP/I02/sld002.htm
問. 通信を妨げる要因
答. ノイズ、言語/プロトコルの相違、政治思想 etc
ノイズ: トラックの違法 CB、ソ連のウッドペッカー、160mバンドにおける侵入電波
言語: 日本人で、タガログ語を読み書きできる人は少ない。
プロトコル: Mac の LocalTalk に Windows は繋がらない。等
政治思想: 中国のインターネットフィルタリング、韓国の AM波妨害(国民に海外の放送を聞かせないため、海外の放送局の周波数に被せるように送信している)
そのほか「馬が死んだので埋めようとショベルカーで土を掘ったら通信回線を切ってしまった」という話しもありました。
駄目？
伝送路選択
高速伝送に絶える...絶えちゃいけません。堪えないと。
http://www.elc.nias.ac.jp/~nagasaka/lect/ic/2000/OHP/I09/sld055.htm
CATVケーブルって何？同軸ケーブルじゃないの？
FDDIという技術はほぼなくなったようですね。ATMはNTT,KDDI等のキャリアでデータ通信用としてまだまだ利用されています。
http://www.elc.nias.ac.jp/~nagasaka/lect/ic/2000/OHP/I10/sld014.htm
リピータ: もうほとんど売ってないでしょう。馬鹿ハブです。(通信速度の変換のできない物が殆どです)
ブリッジ: L2 スイッチで 10M/100M と、2つ以上の通信速度に対応している HUB は殆どこのタイプ。
ルータ: 普通のルータですね。L3 スイッチというのもこれ。
アプリケーションゲートウェイ: プロキシ、ロードバランサなど。L4 とか L5, L6 スイッチというやつ。
アマチュア無線用リニアアンプ（JRL-3000F）を
ご使用のお客様へ 改修のお知らせとお願いと、
ケンウッド製アマチュア無線用リニアアンプ（ＴＬ－９３３）をご使用のお客様へ改修のお願い
全く同じ製品のように思えるのですが、JRCのOEM？
情報量のノート部分
ノート:情報量
bit というのは、実際に使われている大きさを指し、shannon (シャノン)は、その情報が持っている実質的な情報量を示す。ということですね。
例えば、「はれ」と「あめ」を区別するために「はれ」や「あめ」と書けば 2bytes/文字 x 2文字 = 16 bitですが、実際には 2種類しかないので 1 bit あれば伝えられます。※1
ここから bit なら 16 bit で、shannon なら 1 shannon で表すことができるということでしょうか。※2
更に細かくいうと「はれ」が99%、「あめ」が 1% の砂漠がある場合、両方で 1 shannon なのは前述の通りですが
「はれ」という情報は 99/100 の確率で「はれ」だと推定され、間違っている確率は 1-99/100 = 1/100 なので、その程度の情報量しかなく全体の 1 shannon のうちの 0.01 しか情報を持っていません。(0.01 shannon)
「あめ」という情報は同様に 1/100 の確率で「あめ」だと推定され、間違っている確率は 1-1/100 = 99/100 の程度の情報量があり全体の 1 shannon のうちの 0.99 の情報を持ちます。(0.99 shannon)
また、絶対に雨の降らない月の上の天気の情報量は 0 shannon です。だって、伝えなくても分かるから、情報として意味がない = 0 なので。
冬の天気予報を聞いて「太平洋側はまた晴れか。天気予報なんて聞かなくても分かるな」= 情報量が少ない。「北海道で 20℃!?そんな馬鹿な」 = 情報量が多い ということです。
と思ったらどうも違う。う～ん、難しいなぁ。
※1 人間が 1 bit を知覚するのは大変ですが、コンピュータなどを使えば伝送路上のデータは減らすことができる。文字コードは SJIS or EUC or UTF-16 の場合です。音声で伝えると必要なデータ(bit)はもっと増えます。
※2 ただし、0=はれ、1=あめ 等という情報が事前に取り決められている必要があります。勿論「はれ」「あめ」で伝える場合も、日本語の知識が必要です。
lzh や、zip などで圧縮できるのは、この bit -> shannon の変換が行われていると考えることもできるのかな？(可逆圧縮のみで jpeg や mp3(mpeg系) とかは違う)。
http://www.elc.nias.ac.jp/~nagasaka/lect/ic/2000/OHP/I02/sld002.htm
問. 通信を妨げる要因
答. ノイズ、言語/プロトコルの相違、政治思想 etc
ノイズ: トラックの違法 CB、ソ連のウッドペッカー、160mバンドにおける侵入電波
言語: 日本人で、タガログ語を読み書きできる人は少ない。
プロトコル: Mac の LocalTalk に Windows は繋がらない。等
政治思想: 中国のインターネットフィルタリング、韓国の AM波妨害(国民に海外の放送を聞かせないため、海外の放送局の周波数に被せるように送信している)
そのほか「馬が死んだので埋めようとショベルカーで土を掘ったら通信回線を切ってしまった」という話しもありました。
駄目？
伝送路選択
高速伝送に絶える...絶えちゃいけません。堪えないと。
http://www.elc.nias.ac.jp/~nagasaka/lect/ic/2000/OHP/I09/sld055.htm
CATVケーブルって何？同軸ケーブルじゃないの？
FDDIという技術はほぼなくなったようですね。ATMはNTT,KDDI等のキャリアでデータ通信用としてまだまだ利用されています。
http://www.elc.nias.ac.jp/~nagasaka/lect/ic/2000/OHP/I10/sld014.htm
リピータ: もうほとんど売ってないでしょう。馬鹿ハブです。(通信速度の変換のできない物が殆どです)
ブリッジ: L2 スイッチで 10M/100M と、2つ以上の通信速度に対応している HUB は殆どこのタイプ。
ルータ: 普通のルータですね。L3 スイッチというのもこれ。
アプリケーションゲートウェイ: プロキシ、ロードバランサなど。L4 とか L5, L6 スイッチというやつ。
アマチュア無線用リニアアンプ（JRL-3000F）を
ご使用のお客様へ 改修のお知らせとお願いと、
ケンウッド製アマチュア無線用リニアアンプ（ＴＬ－９３３）をご使用のお客様へ改修のお願い
全く同じ製品のように思えるのですが、JRCのOEM？