2011-04-03から1日間の記事一覧

色々な計算誤差

色々な計算誤差の違いがこんがらがりそうなので一回おさらいしてみる 桁落ち 値がほぼ等しい値の減算をしたときに発生 計算結果にて、有効桁の多くが0になってしまいうため、表示する桁数が減ってしまう。 丸め誤差 有効けた内で数値を表現するために切り捨…