機械学習正則化統計学

Ridge回帰

りっじかいき · Ridge Regression
2 views

Ridge回帰とは、機械学習や統計学において過学習を防ぐために用いられるL2正則化項を追加した線形回帰の手法です。モデルの係数が過度に大きくなることをペナルティによって抑制し、未知のデータに対する予測精度を安定させます。

Ridge回帰とは

Ridge回帰とは、損失関数にモデルの重みの二乗和を加えることで過学習を抑制する、L2正則化を用いた線形回帰モデルの一種です。

詳しく解説

通常の線形回帰では、訓練データに対してモデルを最適化しすぎると、わずかなノイズにも過敏に反応する過学習が発生します。Ridge回帰では損失関数にパラメータの大きさを示すペナルティ項を追加するため、重みの値が全体的に小さく抑えられます。これにより多重共線性があるデータに対しても安定した予測モデルを構築できるという特徴があります。

具体例・使われ方

住宅価格の予測において、築年数や面積、駅からの距離など多数の変数が互いに関連し合っている場合にRidge回帰が利用されます。多重共線性の影響を和らげつつ、すべての変数を残したままバランスの取れた予測モデルを作成できます。

似た用語との違い

L1正則化を用いるLasso回帰との違いとして、Lasso回帰が不要な変数の係数を完全にゼロにして変数選択を行うのに対し、Ridge回帰は係数をゼロに近づけるだけですべての変数を残すという点が挙げられます。

注意点

Ridge回帰の注意点として、すべての変数がモデルに残るため、解釈性が著しく向上するわけではない点が挙げられます。また、正則化の強さを決めるハイパーパラメータの適切な調整が不可欠です。

更新日時: 2026年8月30日 04:31