基本情報技術者試験 令和元年度 科目A 修了認定試験 問3「浮動小数点形式で表現された数値の演算結果における丸め誤差の説明はどれか。…」の正解と解説です。基本情報技術者試験の「誤差」分野の過去問で、これまでの受験者の正答率は約70%です。
イ. 数表現のけた数に限度があるので、最下位けたより小さい部分について四捨五入や切上げ、切捨てを行うことによって生じる誤差である。
正答率 70.1%(1,821人中 1,276人が正解)
丸め誤差は、表現可能なけた数を超える下位部分を四捨五入・切上げ・切捨てによって調整する際に生じる。