ディープラーニング機械学習

L2正則化

エルツーせいそくか · L2 Regularization
6 views

L2正則化(Ridge正則化)とは、機械学習モデルの過学習を防ぐために損失関数へ重みの2乗和を加算する手法です。モデルの重みが極端に大きくなるのを抑え、未知データに対する予測性能(汎化性能)を向上させます。

L2正則化とは

L2正則化は、機械学習ディープラーニングにおいてモデルの過学習を防ぎ、未知データへの対応力を高めるためのパラメータ抑制手法です。

詳しく解説

機械学習モデルが訓練データのノイズまで過剰に学習してしまう過学習を防ぐため、モデルの複雑さにペナルティを与える技術が正則化です。L2正則化では、損失関数に対してすべての重み(パラメータ)の2乗和に正則化強度を掛けた数値を加算します。これによりモデルは予測誤差を減らすと同時に重みの大きさも最小限に抑えようとするため、極端なパラメータの発生が抑制されます。結果としてモデルの出力が滑らかになり、未知データに対しても安定した高い汎化性能を発揮できます。最適化アルゴリズムである勾配降下法と組み合わせる際、重みを一定割合で減少させる動作となるため「ウェイトディケイ(重み減衰)」とも呼ばれます。

具体例・使われ方

例えば、住宅価格予測モデルにおいて、特定の学習データの影響で特定のパラメータだけが不自然に巨大化するのを防ぐために活用されます。また、画像認識を行うディープラーニングモデルにおいて、特定のニューロンへ依存が偏るのを抑え、モデル全体でバランスよく特徴を学習させるためのウェイトディケイとして広く利用されます。

似た用語との違い

類似する手法に「L1正則化」があります。L1正則化は重みの絶対値の和をペナルティとして与えるため、重要度の低いパラメータを完全にゼロにして不要な特徴量を削ぎ落とす性質を持ちます。一方、L2正則化は重みを全体的に小さく変化させますが完全にゼロにはしないため、すべての特徴量を残しながらバランスの良いモデルを作りたい場合に適しています。

注意点

正則化の強度パラメータを大きく設定しすぎると、重みが過度に制限されてモデルの表現力が低下し、学習不足(未学習)を引き起こす可能性があります。また、L2正則化を効果的に機能させるには、入力データの特徴量のスケール(単位)をあらかじめ揃えておく前処理(標準化など)が不可欠です。

更新日時: 2026年8月27日 19:21