プログラムの数値計算で発生する誤差の種類 丸め誤差・打ち切り誤差・桁落ち

プログラムの数値計算で発生する誤差の種類 丸め誤差・打ち切り誤差・桁落ち

2021-02-093 min read

目次

  1. 概要
  2. はじめに
  3. 誤差の種類
  4. 参考にしたサイト

概要

コンピュータで出てくる誤差はいくつかありますが、 それらをコードに落として整理しました。

はじめに

例えば 2/3の計算の答えは 0.66666666666... と永遠に数字が続きますが、 プログラムで表現できる数値には限界があります。

例えば jsの場合は以下の結果のように16桁までしか表示できません。

> 1/3
0.3333333333333333

このように実際の数値と計算機で表現できる値の差を「誤差」と呼びますが、 誤差の種類を整理してまとめました。その際の記録です。

誤差の種類

誤差の種類については次のようなものがあります。

  • 丸め誤差
  • 打ち切り誤差
  • 桁落ち
  • 情報落ち
  • 桁溢れ誤差 (オーバーフロー、アンダーフロー)

これらの誤差をコードベースに落としてみます。

丸め誤差

表現できる桁数を切り上げ・切り捨てなどを行うことで生じる誤差です。

> 2/9
0.2222222222222222

打ち切り誤差

計算処理を完了まで待たずに打ち切る誤差です。

> 44 / 79
0.5569620253164557

桁落ち

絶対値が等しい数値の差を求めた時に有効な桁数が減少する誤差

123.456 - 123.444 = 0.012

情報落ち

絶対値が大きく異なる数を足したり引いたりすることで、小さい方の情報が無視されてしまう誤差

> 1919894334 - 0.000000003
1919894334

桁溢れ誤差

システムで扱える最大値や最小値を超えることで生じる誤差です。 最大値を超える場合はオーバフロー、最小値を下回る場合はアンダーフローと言われます。

例えばrustの場合

fn main() {
    let a: u8 = 200;
    let b: u8 = 100;
    let c: u8 = a + b;
    println!("{}", c);
}

を実行すると

5 |     let c: u8 = a + b;
  |                 ^^^^^ attempt to compute `200_u8 + 100_u8`, which would overflow

オーバーフローのエラーが出ます。

参考にしたサイト

誤差 - wikipedia

Tags
javascript(103)
linux(54)
amazon%20aws(47)
node.js(43)
%E3%82%A2%E3%83%AB%E3%82%B4%E3%83%AA%E3%82%BA%E3%83%A0(36)
typescript(33)
%E7%94%BB%E5%83%8F%E5%87%A6%E7%90%86(30)
html5(29)
php(24)
centos(24)
python(22)
%E7%AB%B6%E6%8A%80%E3%83%97%E3%83%AD%E3%82%B0%E3%83%A9%E3%83%9F%E3%83%B3%E3%82%B0(21)
mac(21)
mysql(19)
canvas(18)
opencv(17)
%E9%9B%91%E8%AB%87(16)
docker(16)
wordpress(15)
atcoder(14)
apache(12)
%E6%A9%9F%E6%A2%B0%E5%AD%A6%E7%BF%92(12)
%E3%83%87%E3%83%BC%E3%82%BF%E3%83%99%E3%83%BC%E3%82%B9(12)
amazon%20s3(12)
red%20hat(12)
ubuntu(11)
github(10)
git(10)
vue.js(10)
%E7%94%BB%E5%83%8F%E5%87%A6%E7%90%86100%E6%9C%AC%E3%83%8E%E3%83%83%E3%82%AF(10)
mariadb(10)
aws%20cdk(9)
css3(8)
%E5%8F%AF%E8%A6%96%E5%8C%96(8)
%E5%B0%8F%E3%83%8D%E3%82%BF(8)
amazon%20lightsail(7)
react(7)
%E3%83%96%E3%83%AD%E3%82%B0(6)
cms(6)
oracle(6)
perl(6)
gitlab(6)
next.js(6)
prisma(6)
iam(5)
amazon%20ec2(5)
%E8%B3%87%E6%A0%BC%E8%A9%A6%E9%A8%93(5)
aws%20amplify(5)
nestjs(5)
curl(4)
Author
githubzennqiita
ただの備忘録です。※このブログの内容は個人の見解であり、所属する組織等の見解ではないです。