観測されたデータが得られる確率の度合いを表す「尤度関数」を最大化するように算出された統計モデルのパラメーターの推定値のことです。統計学や機械学習において、手元のデータに最も合致する確率分布のモデルを構築するための最も基本的手法および計算結果として広く用いられています。
最尤推定量とは
最尤推定量とは、手元にある観測データが「最も発生しやすい」ように統計モデルのパラメーターを決めたときの値、またはその推定量のことです。最尤推定という手法によって導き出されます。
詳しく解説
最尤推定量は、確率密度関数や確率質量関数で定義される統計モデルに対し、観測データが得られる尤度関数を最大にするパラメーターとして計算されます。計算を簡略化するため、尤度関数の対数を取った対数尤度関数を最大化するアプローチが一般的です。深層学習やロジスティック回帰など、現代の機械学習モデルの多くで用いられる損失関数の最適化は、数学的に最尤推定量を求める操作と深く結びついています。
具体例・使われ方
例えば、コインを10回投げて7回表が出た場合、表が出る確率の最尤推定量は0.7となります。また、機械学習モデルにおいて大量の訓練データから最適な重みやバイアスなどのパラメーターを学習する処理も、最尤推定量の計算に基づいています。
似た用語との違い
最尤推定が「最適なパラメーターを求める計算手続きや考え方そのもの」を指すのに対し、最尤推定量は「その手続きによって導き出された値や計算式」を指します。また、パラメーターの事前分布を考慮するMAP推定とは異なり、最尤推定量は与えられた観測データのみに依存して最適値を決定する点に違いがあります。
注意点
データ数が少ない場合、最尤推定量は観測データのノイズや偏りに強く影響を受け、過剰適合を引き起こす危険性があります。また、尤度関数の形状が複雑で複数の極大値が存在する場合、必ずしも大域的な真の最尤推定量に到達できるとは限らない点にも注意が必要です。