量子化学習（QAT）とは、ディープラーニングモデルの数値精度をあらかじめ低ビット化（量子化）した状態を模擬しながら行う学習手法です。通常の高精度浮動小数点数を整数などに圧縮する際生じる誤差の影響を訓練時に反映するため、モデル軽量化に伴う精度低下を最小限に抑え、エッジデバイスでの高速な推論を実現します。
量子化学習とは
量子化学習とは、ディープラーニングモデルを軽量化する際、低精度な数値計算（量子化）によって生じる誤差を学習段階から考慮しておく手法です。
詳しく解説
ディープラーニングにおけるモデルのパラメータである重みや活性化関数は、通常32ビット浮動小数点数（FP32）などの高精度なデータ型で計算されます。しかし、スマートフォンやIoT機器などのエッジデバイスでモデルを動かす場合、メモリ容量や計算資源の制限から、8ビット整数（INT8）などに圧縮する「量子化」が必要です。量子化学習では、順伝播時に量子化の誤差を模倣した擬似量子化を挿入し、逆伝播時にはその誤差を補償するようにパラメータの微調整を行います。これにより、学習完了後すぐに精度を維持したまま低精度のモデルへと変換可能になります。
具体例・使われ方
スマートフォン内でのリアルタイムな画像認識アプリや音声認識機能の構築で利用されます。例えば、クラウドを介さずにデバイス上でモデルの推論を高速かつ省電力で行うために、量子化学習によって最適化されたモデルが活用されています。
似た用語との違い
学習後にモデルのパラメータを変換する「ポスト訓練量子化」と混同されることがあります。ポスト訓練量子化は追加の再学習が不要で簡便ですが、モデル構造によっては精度が大きく低下する場合があります。これに対して量子化学習は、学習時に量子化誤差を織り込むため計算コストや時間は増えますが、変換後の高い予測精度を保持しやすいという違いがあります。
注意点
量子化学習を適用するには、学習データの準備や専用の訓練パイプラインが必要となり、開発コストが増加します。また、すべてのハードウェアが特定の量子化形式に対応しているわけではないため、展開先のエッジデバイスの実行環境を事前に確認して設計する必要があります。