量子化誤差
量子化誤差とは、AIモデルの高精度な数値を低い精度の数値で近似・変換する際に発生する情報の損失や数値のズレのことです。モデルの軽量化や推論の高速化と引き換えに、わずかな出力精度の低下を引き起こす原因となります。
モデル圧縮に関するAI用語を3件掲載しています。意味や使い方、関連用語を一覧から確認できます。
量子化誤差とは、AIモデルの高精度な数値を低い精度の数値で近似・変換する際に発生する情報の損失や数値のズレのことです。モデルの軽量化や推論の高速化と引き換えに、わずかな出力精度の低下を引き起こす原因となります。
生徒モデルとは、知識蒸留などの手法において、大規模な教師モデルから出力を模倣するように学習し、軽量かつ高速な推論を実現する機械学習モデルのことです。
教師モデルとは、知識蒸留などの手法において、あらかじめ高度な学習を完了させた性能の高いAIモデルのことです。自己のもつ豊富な知識や出力確率の傾向を、より軽量な生徒モデルへ引き継ぐことで、AIの軽量化や効率化を実現します。