山口屋~活動日誌~

私生活で主な出来事をピックアップ

階乗 オーバーフロー 浮動小数点数 整数

2020-08-15 10:54:45 | ソフトウェア開発
階乗:n!や二重階乗:n!!を、Excel(倍精度浮動小数点数)で試算してみた。

階乗は、n≦170までは計算できたが、n≧171ではオーバーフローを起こした。nを整数型で指示する場合、1Byteの符号なし整数型で十分なようだ。

二重階乗は、n≦300までは計算できたが、n≧301ではオーバーフローを起こした。
コメント
  • X
  • Facebookでシェアする
  • はてなブックマークに追加する
  • LINEでシェアする