写経（笑） 5.エントロピー entropy 『岩波数学入門辞典』

　エントロピーという用語はクラウジウス（Ｒ．Ｊ．Ｅ.Clausius,1865）に始まり,ギリシア語のτροπη（変化）に由来し,変化容量を意味する造語であり,熱力学において不可逆性を定量的に表す量（エントロピーの増加）として導入された.その後古典統計力学におけるボルツマンの研究（1877）において,巨視的状態に対応する微視的状態の数の対数としてエントロピーが捉えられ,不確定性を定量的に表す量という視点が誕生する.ボルツマン（Ｌ.Boltzmann)　が導いたエントロピー　


　　　　　　　　　　　　　　　　　　　




は,1948年に情報量としてシャノンが導入した量と同じ形であり,情報量を,不確定性の減少を表す量として捉える視点が誕生する.さらに,1958年にコルモゴロフは測度論的エントロピーを導入し,力学系の不変量としてのエントロピーはその後の力学系理論・エルゴード理論の発展,また統計力学の数学的理論の展開に大きな寄与をすることとなった.さらに,コルモゴロフは関数空間の大きさを測る量としてε（イ（エ）プシロン）エントロピーを導入し,また,晩年には,有限列に対するコルモゴロフの複雑度の概念も導入した.このように,エントロピーはさまざまな研究の動機付けにおいて大きな役割を果たしてきているが,数学としてはそれぞれ別の概念であり,とくに,熱力学のエントロピーとそれ以外のものはその性格が著しく異なることに留意するべきである.