山口屋～活動日誌～

私生活で主な出来事をピックアップ

二次方程式 解の公式 桁落ち

2020-09-13 14:17:44 | ソフトウェア開発
数値計算において、二次方程式の解の公式での桁落ちはよく知られた話で、根号を分子から分母に持っていく変形をすると桁落ちせずに求められる。だがこれは実係数の場合の話で、複素係数の場合は桁落ちが回避できないケースがある。

冷水催眠：桁落ちを回避できない複素数係数二次方程式

コメント    この記事についてブログを書く
 
 
 
 
  • X
  • Facebookでシェアする
  • はてなブックマークに追加する
  • LINEでシェアする
« C言語 三角関数 誤差 精度向... | トップ | Microsoft Word 数式 3.0 オ... »
最新の画像［もっと見る］

コメントを投稿

「ソフトウェア開発」カテゴリの最新記事

プロフィール

プロフィール画像

自己紹介
教職課程も取って理工系大学を卒業しました。今は社会人です。入浴・食事・睡眠が幸せのひとときです。

カレンダー

2025年2月
日 月 火 水 木 金 土
1
2 3 4 5 6 7 8
9 10 11 12 13 14 15
16 17 18 19 20 21 22
23 24 25 26 27 28

バックナンバー

ブックマーク

スタッフブログ（ｇｏｏ）
ｇｏｏブログ
  • RSS2.0