桁落ち
桁落ちとは、値が非常に近い2つの浮動小数点数の引き算を行った際に、有効桁数が大幅に減少する計算誤差の現象です。AIや数値計算において、非常に小さな変化量を計算する際やニューラルネットワークの勾配計算などで発生すると、精度低下や学習の不安定化を引き起こすため、計算式の工夫などで対処する必要があります。
コンピュータアーキテクチャのAI用語一覧
1件コンピュータアーキテクチャに関するAI用語を1件掲載しています。意味や使い方、関連用語を一覧から確認できます。
コンピュータアーキテクチャに関するAI用語を1件掲載しています。意味や使い方、関連用語を一覧から確認できます。
桁落ちとは、値が非常に近い2つの浮動小数点数の引き算を行った際に、有効桁数が大幅に減少する計算誤差の現象です。AIや数値計算において、非常に小さな変化量を計算する際やニューラルネットワークの勾配計算などで発生すると、精度低下や学習の不安定化を引き起こすため、計算式の工夫などで対処する必要があります。