裏 RjpWiki

Julia ときどき R, Python によるコンピュータプログラム,コンピュータ・サイエンス,統計学

modulus は「絶対値」じゃない

2010年09月09日 | ブログラミング
絶対値で精度が完全に失われた可能性があります 」というのは実に日本語的に意味が分からない珍訳だと思うのだけど,英語では "probable complete loss of accuracy in modulus" だ。
modulus が絶対値という訳になるのは,「(複素数の)絶対値」だから,当てはまらないだろう。
modulus ということで,一番最初に頭に浮かぶのは「(整数論の)法」

それにしても,どういう状態か分からないのでいろいろ捜索の結果,以下のような場合に出たり出なかったりというエラーのようだ。

> 30284005485024840 %% 7
[1] 4

> 30284005485024840 %% 6
[1] 0
 警告メッセージ:
 絶対値で精度が完全に失われた可能性があります 

やはり,modulo に関係するもののようだけど,除数により出たり出なかったりというのがわからない。
コメント
  • X
  • Facebookでシェアする
  • はてなブックマークに追加する
  • LINEでシェアする

PVアクセスランキング にほんブログ村

PVアクセスランキング にほんブログ村