量子化認識訓練（QAT）は、ニューラルネットワークの学習時に量子化の誤差をあらかじめ組み込んで最適化する手法です。通常の訓練後に量子化を行う事後量子化と比べて精度低下が非常に少なく、軽量で高精度なモデルを生成できるため、エッジデバイスへの展開に広く活用されています。
量子化認識訓練とは
一言でいうと量子化認識訓練とは、AIモデルの軽量化に伴う精度低下を防ぐため、モデルを学習させる段階であらかじめ量子化の影響をシミュレーションして最適化する訓練手法のことです。
詳しく解説
量子化認識訓練（QAT）は、通常の浮動小数点数（FP32など）による学習プロセスの中に、量子化と逆量子化の処理を模擬的に挿入して行われます。これにより、ネットワークの重みや活性化関数が低いビット数（INT8など）に変換されることで生じる誤差を、逆伝播の学習過程で補正・学習させることが可能になります。高精度な推論を維持したままモデルサイズの大幅な削減と高速化を実現できるため、スマートフォンやIoT機器などのリソースが限られた環境への展開において重要な技術となっています。
具体例・使われ方
スマートフォンや監視カメラなどのエッジデバイス上で、画像認識や音声認識モデルを効率的に動作させるために利用されます。例えば、モバイル端末向けに最適化された軽量な畳み込みニューラルネットワーク（CNN）やTransformerなどのモデルを構築する際、精度をほとんど落とさずにINT8量子化対応のモデルを作成する目的で適用されます。
似た用語との違い
学習済みのモデルに対して後から変換を行う事後量子化（PTQ）とは異なり、モデルの訓練プロセスそのものをやり直す点が最大の違いです。PTQは手軽で短時間で実行できますがモデルの精度が低下しやすい傾向があり、それに対してQATは学習コストと時間がかかる代わりに高い精度を維持できるという特徴があります。
注意点
学習の過程で量子化のシミュレーション処理を追加するため、通常のモデル訓練や事後量子化に比べて計算コストや開発にかかる時間が大きくなる点に注意が必要です。また、使用するフレームワークやアルゴリズムの選定が適切でない場合、期待したほどの精度向上が得られないこともあります。