ナカナカピエロ おきらくごくらく

写真付きで日記や趣味を書くならgooブログ

浮動小数点

2011-07-30 00:12:18 | 日記
浮動小数点

この数値をどう見るだろう。

人それぞれによって様々であるように思う。浮動小数点などは瑣末なことだと思う人も少なくなかろうと思う。日常生活の中で浮動小数点に関係あるとすれば消費税ぐらいではなかろうか。買い物などすると5パーセント、つまり0.05の掛け算になる。

数値計算分野等を除く、純粋な数学では、あまり浮動小数点など考えない。数学では、数の概念の中で、有理数や実数、超越数などカテゴリはあっても、浮動小数点というキーワードはでてこない。

しかしながらコンピュータの世界では、浮動小数点はなくてはならないもの。そこで2つの相対する考え方がある。誤差がなく正確な値を求めるか、多少の誤差はあれど近似値を速く求めるかである。一方はビジネス系で、もう一つは自然科学系である。

自然科学系では浮動小数点のデータ形式が標準規格として決められている、IEEEという規格である。これはプロセッサの設計者によって決められたようである。人間が理解するのは難しいが、コンピュータにとっては都合が良く、計算が楽で速いなるようにデータ形式は設計されている。誤差の精度もほぼ決められており、ほとんどのコンピュータは、この規格を多く採用している。

私もこのデータ形式に慣れていて、当たり前のように使っていたが、ずいぶん前、年かさは離れているが気さくな職場の人と飲む機会があった時に、誤差の出るような計算値なんて計算じゃあねぇ!と言われ、私は初めて、浮動少数点とは何かと改めて考え直す機会を得た。一理あると思ったからである。

そこで、私は浮動小数点の光と闇を見たのである。

後記
以前、上長だった方が浮動小数点フリークでした。

続後記
やっと今週も終わり。へろへろ状態です。洗濯しなきゃいけないんだけど、天気が。。。。本当にこれまま8月をむかえるのだろうかと思うと、なんとなくさみしいねえ。
コメント
  • X
  • Facebookでシェアする
  • はてなブックマークに追加する
  • LINEでシェアする