コンピュータ科学のAI用語一覧

浮動小数点数

浮動小数点数は、コンピュータ内で実数を仮数と指数に分けて表現するデータ形式です。非常に広い範囲の数値を効率的に扱えるため、ディープラーニングの計算においてパラメータの表現に不可欠です。一方で有限のビット数による近似であるため、丸め誤差などの精度上の限界が存在し、計算処理時には注意が必要です。