色々な計算誤差の違いがこんがらがりそうなので一回おさらいしてみる 桁落ち 値がほぼ等しい値の減算をしたときに発生 計算結果にて、有効桁の多くが0になってしまいうため、表示する桁数が減ってしまう。 丸め誤差 有効けた内で数値を表現するために切り捨…

なにやらこんがらがったので、1の補数と2の補数について一回まとめる。 二進数における負の値の表現方法には、次の2つがある。 1の補数と2の補数 まず、1の補数 左端の最上位ビットを符号とみなしており、全てのビットを反転させることで負の値が得られる。 …