goo blog サービス終了のお知らせ 

ミントのメモ帳

メモしておかなくちゃ忘れるばかり。日々の事をちょこっと書きます。

コンピューターの盲点

2009年09月02日 | 日々のこと
またまた新聞記事で面白いと思ったのを紹介!


電卓ではできない計算
1を3で割って、また3を掛けると…
答えは当然1ですが…

試しに電卓でやってみてください。
1÷3=0.3333となり、
さらに×3だと0.9999となる。
コンピューターは小数点以下を延々と計算していく。
決して1にはならない。

これがコンピューターの誤差というわけ。

コンピューターは0と1の2進法だから、10進法の少数などを2進法に変換すると、多くの桁数が必要になる。
すべてを厳密に変換しきれずに誤差が生じる。
これが繰り返し増幅されると、計算が破錠してしまう。

コンピューターも決して万能ではない。
デジタルである限り、回避できない死角があるのだ。


と、まあこんな記事を読むと…
正しく計算できてるか人間がチェックしなくちゃいけないのね!

広島ブログ
コメント (4)

広島ブログ

クリックしてね♪広島ブログ