エラスティックネット(Elastic Net)は、機械学習における正規化付き線形回帰手法の一つです。L1正則化(Lasso)とL2正則化(Ridge)を組み合わせることで、両者の長所を併せ持ちます。特徴量間の多重共線性が存在するデータセットにおいて、有効な特徴量を選択しつつ、過学習を防ぎながら安定した予測モデルを構築できる点が特徴です。
エラスティックネットとは
エラスティックネットとは、線形回帰モデルの過学習を防ぐために、Lasso回帰の「L1正則化」とRidge回帰の「L2正則化」の二つのペナルティ項を組み合わせて用いる正則化手法です。これにより、特徴量の自動選択機能と、相関の高い特徴量群をグループとして扱う安定性を同時に実現します。
詳しく解説
エラスティックネットは、高次元データ(サンプル数に比べて特徴量数が非常に多いデータ)や、入力変数間に強い相関(多重共線性)がある場合に特に有効な機械学習アルゴリズムです。Lasso(L1正則化)は不要な特徴量の重みを完全にゼロにすることで特徴量選択を行いますが、相関の強い特徴量群がある場合にその中からランダムに1つだけを選び、他をゼロにしてしまうという弱点があります。一方、Ridge(L2正則化)は相関のある特徴量の重みを均等に縮小させますが、完全にゼロにはしません。エラスティックネットは、これら2つの正則化をブレンドすることで、相関のある特徴量群をグループとして一緒にモデルに取り込み(グループ化効果)、同時に不要なノイズ変数を排除します。ハイパーパラメータにより、L1とL2のペナルティの強さとブレンド比率を調整します。
具体例・使われ方
例えば、遺伝子解析データのように、数万個の遺伝子(特徴量)に対してサンプル数が数百個しかない高次元データにおいて、特定の疾患に関連する遺伝子グループを特定する際に用いられます。また、不動産価格予測において「駅からの距離」と「徒歩分数」のように極めて相関の高い複数の特徴量が存在する場合でも、片方を不当に無視することなく、両者の影響をバランスよく考慮した安定した予測モデルを構築できます。
似た用語との違い
エラスティックネットと混同されやすい概念に、Lasso回帰とRidge回帰があります。Lasso回帰はL1正則化のみを使用し、いくつかの特徴量の重みを完全にゼロにするため、モデルの解釈性は高まりますが、多重共線性がある場合に不安定になります。Ridge回帰はL2正則化のみを使用し、重みを滑らかに縮小させるため予測は安定しますが、特徴量選択は行われません。エラスティックネットは、これら双方の損失関数をハイブリッドで組み合わせることで、それぞれの欠点を補い合っています。
注意点
注意点として、エラスティックネットはL1とL2の比率(l1_ratioなど)および正則化の強さ(alpha)という2つのハイパーパラメータを調整する必要があるため、LassoやRidge単体と比較してモデルの訓練やクロスバリデーション(交差検証)に伴う計算コストが高くなります。また、特徴量間に強い相関が全く存在しないクリーンなデータセットにおいては、LassoやRidgeを単独で用いる場合よりもパフォーマンスが向上しないか、むしろ不要な複雑さを導入することになりかねません。