数値計算のAI用語一覧

丸め誤差

丸め誤差とは、数値計算において無限小数や指定された桁数を超える数値を、有限のビット数で表現する際に生じる計算誤差のことです。コンピュータ内部の浮動小数点数表現では扱える精度に限界があるため、最下位桁の丸め処理によって真の値との間にズレが生じます。AIのディープラーニングなど大量の計算を行う場面で重要な影響を及ぼします。