基本情報技術者試験(FE) ～情報の基礎理論「コンピュータの演算」～【第1回】

誤差

コンピュータのレジスタが有限桁数で演算を行うため、レジスタに入り切らない数値があると無視されたりして、演算結果と真（実際）の値に違いが出てきます。このような違いを「誤差」といいます。

①丸め誤差
コンピュータでは無限小数を扱うことが出来ないので、四捨五入や切捨て、切り上げなどによって有限桁数とすることが行なわれます。このとき、実際の値と有限桁数に丸めた結果との差を、「丸め誤差」といいます。

②けた落ち
ほぼ等しい数値同士の引き算、絶対値がほぼ等しく符号が異なる２つの数の加算を行なった場合、有効桁数が急激に減少することがあります。このような現象を「けた落ち」といいます。

③情報落ち
大きな値と小さな値の加減算を行なった場合に、桁を揃えることによって、仮数部に入りきらない小さな値の情報の一部が落ちてしまうことがあります。このような現象を「情報落ち」といいます。「情報落ち」を避けるためには、絶対値の小さな数値から順に加減算を行う必要があります。

④打切り誤差
ある値を演算で求めた時、その結果が循環小数になる場合や時間の経過とともに徐々に真の値に近づくような場合、時間の制限または、一定の桁数で演算を打ち切ることで生じる誤差となります。

⑤オーバーフロー・アンダーフロー
「オーバーフロー」とは、演算結果が数値で表現できる最大値を超えてしまうことで発生する誤差のことです。「あふれ」とも呼ばれています。
「アンダーフロー」とは、演算結果が数値で表現できる最小値を超えてしまうことで発生する誤差のことです。