フィルター法は、機械学習のモデルを構築する前に、データの統計的な特性だけを利用して不要な特徴量を排除する手法です。モデルの学習を行わないため計算コストが非常に低く、高次元データを効率的に前処理できる点が大きなメリットです。
フィルター法とは
フィルター法とは、機械学習においてモデルの学習アルゴリズムから独立した評価基準を使い、データの統計量に基づいて有用な特徴量を選択するデータ前処理の手法です。
詳しく解説
フィルター法は、相関係数やカイ二乗検定、相互情報量などの統計的指標を用いて、各特徴量と目的変数との関係性や、特徴量同士の冗長性を評価します。ラッパー法や埋め込み法とは異なり、実際に機械学習モデルを学習させてその性能を評価するプロセスを含みません。そのため、計算量が極めて少なく済むという特徴があり、数千から数万次元に及ぶ遺伝子データやテキストデータのような超高次元データの前処理として広く活用されています。一方で、特徴量同士の組み合わせによる相乗効果などを考慮できないという側面もあります。
具体例・使われ方
例えば、顧客の解約予測モデルを作成する際、数多くのアンケート項目や利用履歴のデータがあるとします。フィルター法を用いることで、各変数と解約有無の相関係数を一括して計算し、相関が極めて低い変数を事前に一網打尽に削除することができます。これにより、後続の機械学習で使うデータセットを軽量化できます。
似た用語との違い
ラッパー法や埋め込み法といった他の特徴量選択アプローチと比較して、フィルター法は特定の機械学習モデルに依存しない点が異なります。ラッパー法はモデルの予測性能をフィードバックしながら特徴量を選ぶため精度が高くなりやすい反面、膨大な計算時間が必要です。これに対し、フィルター法はモデルを介さず統計量だけで選ぶため高速ですが、最終的なモデルの精度向上に直接最適化されているわけではありません。
注意点
フィルター法は個別の特徴量の単体での重要性を評価するため、個々では意味がなくても複数の特徴量が合わさることで初めて予測に役立つようなケースを見落とす恐れがあります。また、選定基準となる閾値を恣意的に設定しすぎると、必要な情報まで削ぎ落としてしまうリスクがあるため注意が必要です。