色々な計算誤差の違いがこんがらがりそうなので一回おさらいしてみる 桁落ち 値がほぼ等しい値の減算をしたときに発生 計算結果にて、有効桁の多くが0になってしまいうため、表示する桁数が減ってしまう。 丸め誤差 有効けた内で数値を表現するために切り捨…
引用をストックしました
引用するにはまずログインしてください
引用をストックできませんでした。再度お試しください
限定公開記事のため引用できません。