応用情報技術者試験 令和3年度春期 午前 問2「桁落ちによる誤差の説明として,適切なものはどれか。…」の正解と解説です。応用情報技術者試験の「テクノロジ系」分野の過去問で、これまでの受験者の正答率は約63%です。
ア. 値がほぼ等しい二つの数値の差を求めたとき,有効桁数が減ることによって発生する誤差
正答率 62.9%(1,159人中 729人が正解)
桁落ち(cancellation)とは、値がほぼ等しい2つの数値どうしの減算を行ったときに、上位の桁が打ち消し合って有効桁数が大きく減ってしまう誤差である。減算で消えた上位桁の分を下位の不確かな桁(丸め誤差で生じた桁)で埋めることになるため、結果の精度が落ちる。よってアが正しい。