山口屋~活動日誌~

私生活で主な出来事をピックアップ

階乗 オーバーフロー 浮動小数点数 整数

2020-08-15 10:54:45 | ソフトウェア開発
階乗:n!や二重階乗:n!!を、Excel(倍精度浮動小数点数)で試算してみた。

階乗は、n≦170までは計算できたが、n≧171ではオーバーフローを起こした。nを整数型で指示する場合、1Byteの符号なし整数型で十分なようだ。

二重階乗は、n≦300までは計算できたが、n≧301ではオーバーフローを起こした。
コメント    この記事についてブログを書く
  • X
  • Facebookでシェアする
  • はてなブックマークに追加する
  • LINEでシェアする
« Android マウス USB Type-C H... | トップ | SIMフリー APN キャリア IMEI... »
最新の画像もっと見る

コメントを投稿

ソフトウェア開発」カテゴリの最新記事