ラッパー法とは、機械学習のモデルを用いて最適な特徴量の組み合わせを選択する手法です。予測性能を直接評価基準にするため精度向上が期待できますが、計算コストが非常に高いという特徴があります。
ラッパー法とは
一言でいうと、機械学習モデルの予測性能を基準にして、最も成績の良い特徴量の組み合わせを網羅的あるいは効率的に探す特徴量選択の手法です。
詳しく解説
ラッパー法は、特定の機械学習モデルをあたかも「ブラックボックスの評価器（ラッパー）」として利用し、そのモデルの予測精度をフィードバックとして使いながら特徴量の部分集合を探索します。例えば、利用可能な特徴量の中からどの組み合わせを選べば最も精度が高くなるかを、モデルに実際に学習と評価をさせて判定します。アルゴリズムの内部構造に依存しないため、あらゆる機械学習モデルに適用できる柔軟性を持っています。代表的な手法には、すべての組み合わせを試す全探索のほか、重要でない特徴量を1つずつ取り除く再帰的特徴量削除（RFE）や、順次特徴量を追加または削除していく貪欲法ベースの手法が含まれます。
具体例・使われ方
顧客の解約予測モデルを構築する際、年齢や購入履歴、アクセス頻度など50個の変数があるとします。ラッパー法を用いると、どの変数の組み合わせが予測精度を最も高めるかを検証し、例えば「アクセス頻度と直近の購入金額の2つだけで十分な精度が出る」といった最適な特徴量のセットを自動的に見つけ出すことができます。
似た用語との違い
フィルター法とは異なり、ラッパー法は機械学習モデル自体の予測性能を評価に用いるため、モデルの特性に合わせた最適な特徴量を選びやすいという違いがあります。ただし、モデルの学習を何度も繰り返すため、フィルター法に比べて計算コストが圧倒的に大きくなります。
注意点
特徴量の数が増えるにつれてモデルの学習回数が爆発的に増加するため、計算時間が膨大になるスケーラビリティの課題があります。また、限られたデータに対して何度も評価と選択を繰り返すことで、特定のデータセットに過剰に適合してしまうオーバーフィッティングが起きやすい点にも注意が必要です。