蒸留
蒸留（知識蒸留）とは、巨大な高性能なニューラルネットワーク（教師モデル）が持つ知識を、より軽量でコンパクトなモデル（生徒モデル）に効率よく引き継がせる技術です。精度を極力落とさずに処理速度を向上させられるため、AIの実用化において広く活用されています。
モデル最適化のAI用語一覧
6件モデル最適化に関するAI用語を6件掲載しています。意味や使い方、関連用語を一覧から確認できます。
プルーニング
プルーニングとは、ディープラーニングモデルの精度に大きく影響しない不要なニューロンや結合を削除し、モデルを軽量化・効率化する技術です。計算量を減らして推論速度を向上させます。
メモリ使用量
メモリ使用量とは、AIモデルの学習や推論を実行する際に、メインメモリやGPUメモリ上に読み込まれて消費されるデータ容量のことです。特にLLMなどの大規模なモデルでは、パラメータ数やバッチサイズに応じてメモリ使用量が膨大になります。メモリ不足による処理の停止を防ぐため、量子化などの技術を用いたメモリ効率化が重要視されています。
量子化認識トレーニング
量子化認識トレーニング（QAT）とは、ディープラーニングモデルを軽量化・高速化する量子化の手法の一つです。モデルの学習時またはファインチューニング時に量子化による精度低下の影響をシミュレーションしながら重みや活性化関数を最適化します。事後量子化に比べて高い予測精度を維持できる点が強みです。
事後量子化
事後量子化とは、すでに学習が完了した機械学習モデルの重みデータを低精度な表現に変換し、モデルの軽量化や推論の高速化を図る技術です。追加の学習コストを抑えつつエッジデバイスなどへの効率的な実装を可能にします。
量子化認識訓練
量子化認識訓練（QAT）は、ニューラルネットワークの学習時に量子化の誤差をあらかじめ組み込んで最適化する手法です。通常の訓練後に量子化を行う事後量子化と比べて精度低下が非常に少なく、軽量で高精度なモデルを生成できるため、エッジデバイスへの展開に広く活用されています。