自由度とは、統計学や機械学習において制約を受けずに自由に変動できる値の数を指します。モデルの複雑さや過学習の度合いを評価する上で重要な概念であり、パラメータ数が増えると自由度が高くなります。
自由度とは
一言でいうと、自由度とは「データやモデルの中で、独立して自由に動かすことのできる変数の数」のことです。
詳しく解説
機械学習や統計学において、自由度はデータの分析やモデルの設計を理解するための基礎となります。例えば、サンプルサイズから推定するパラメータの数を引いた値として計算され、統計的検定や確率分布の形状を決定する際に用いられます。ディープラーニングなどの複雑なモデルでは、膨大な数のパラメータが存在するため自由度が非常に高く、データの特徴を細かく捉えることができますが、同時に過学習を引き起こすリスクも高まります。
具体例・使われ方
線形回帰モデルにおいて、利用する説明変数の数を増やすとモデルの自由度が上がります。自由度が上がると、訓練データに対してより柔軟にフィットする曲線を描くことが可能になります。
似た用語との違い
パラメータ数と混同されやすいですが、パラメータ数はモデルが持つ調整可能な係数の総数を指し、自由度は統計的な制約を考慮した上で独立して変動できる実質的な数値を意味します。
注意点
自由度が高すぎるモデルは、訓練データに対しては高い性能を発揮するものの、未知のデータに対する予測性能が低下する過学習を起こしやすいため注意が必要です。
この解説は役に立ちましたか？誤りが含まれる場合はご報告いただけますと幸いです。
更新日時: 2026年9月7日 02:01