ポスト訓練量子化（PTQ）は、すでに学習（訓練）が完了したディープラーニングモデルの重みや活性化関数を、再学習を行うことなく低ビット（例：32ビット浮動小数点から8ビット整数）に変換する技術です。計算量とメモリ消費量を大幅に削減し、エッジデバイスへの実装を容易にします。
ポスト訓練量子化とは
ポスト訓練量子化（PTQ: Post-Training Quantization）とは、学習済みのニューラルネットワークモデルに対して、追加の再学習を行うことなく、モデルの重み（ウェイト）や活性化関数のデータをより低い精度（ビット幅）の表現形式に変換し、モデルサイズと計算コストを削減する手法です。
詳しく解説
ポスト訓練量子化は、通常の32ビット単精度浮動小数点（FP32）で表現されたモデルパラメータを、8ビット整数（INT8）などの低ビット表現に変換します。モデルの再訓練が不要であるため、極めて短時間でモデルの圧縮と高速化を実現できるのが特徴です。量子化の際には、データ全体の分布を把握してスケール因子を決定するために、少量の検証用データ（キャリブレーションデータ）を入力して推論を行う「キャリブレーション」というプロセスが一般的に用いられます。これにより、パラメータの表現範囲を最適化し、量子化に伴う精度低下を最小限に抑えます。
具体例・使われ方
スマートフォンやIoT機器などのリソースが制限されたエッジデバイスに、大規模な画像認識モデルや自然言語処理モデルをデプロイする際に利用されます。例えば、FP32形式で保存された学習済みモデルを、TensorFlow LiteやONNX Runtimeなどのツールを用いてINT8形式のポスト訓練量子化を適用することで、モデルサイズを約4分の1に軽量化し、推論処理を大幅に高速化させることができます。
似た用語との違い
混同されやすい概念に「量子化認識訓練」があります。ポスト訓練量子化が学習完了後に再学習なしで処理を行うのに対し、量子化認識訓練は学習（訓練）プロセスの中に量子化による誤差をシミュレートする処理を組み込み、精度低下を補いながらモデルを最適化します。ポスト訓練量子化は手軽で計算コストが低い一方、モデルによっては量子化認識訓練よりも推論精度が低下しやすいという違いがあります。
注意点
ポスト訓練量子化は非常に手軽な手法ですが、FP32からINT8のように極端にビット数を落とした場合、特にタスクが複雑なモデルやモデルサイズ自体が小さい場合には、大幅な精度低下が発生することがあります。また、キャリブレーションに使用する検証用データ（キャリブレーションデータ）の選定が不適切であると、特定の入力に対して極端に精度が悪化するリスクがあります。さらに、ハードウェア（GPU、CPU、専用アクセラレータなど）が選択した低ビット演算に対応していなければ、実行速度の高速化の恩恵を受けられない点にも注意が必要です。