非パラメトリックとは、母集団の確率分布の形や母数(パラメータ)を事前に仮定せず、データの数に応じて柔軟にモデルの複雑さが変わる手法の総称です。機械学習や統計学において、データの構造が未知である場合や複雑な関係性を高精度に捉えたい場合に広く活用されます。
非パラメトリックとは
一言でいうと非パラメトリックとは、事前に母数の数や分布の形を固定せず、データそのものから柔軟に学習する機械学習および統計学のアプローチです。
詳しく解説
非パラメトリック手法では、モデルのパラメータ数がデータ量に応じて増加する仕組みを持っています。例えば、古典的な統計モデルではデータの背後にある正規分布などを仮定しますが、非パラメトリックモデルではそのような強い事前仮定を置きません。そのため、現実世界の複雑で多様なデータ構造に対しても高い適応力を発揮します。機械学習においては、カーネル密度推定やk近傍法、決定木、そしてガウス過程などが代表的な非パラメトリックモデルとして知られています。
具体例・使われ方
具体的な利用例として、k近傍法を用いた手書き文字認識や、ガウス過程回帰によるセンサーデータの予測、あるいはディープラーニングの前段階としてのカーネル法による特徴量抽出などが挙げられます。これらは事前に分布を決めつけず、観測されたデータから直接パターンを導き出します。
似た用語との違い
パラメータがあらかじめ固定されているパラメトリック手法とは対照的です。パラメトリック手法は計算コストが低く解釈しやすい一方、仮定が外れた場合に予測精度が大きく低下するリスクがあります。これに対して非パラメトリック手法は柔軟性が高いという特徴があります。
注意点
非パラメトリックモデルの最大の注意点は、データ量が少ない場合に過学習を起こしやすいことや、データが増えるにつれて学習や予測の計算コストが爆発的に増加しやすい点にあります。