機械学習統計学

尤度関数

ゆうどかんすう · Likelihood Function
1 views

尤度関数とは、観測されたデータに基づいて、ある統計モデルのパラメータがどれほど尤もらしい(確からしい)かを表す関数です。機械学習や統計学において、モデルの最適化や推定を行う際の基盤として広く利用されます。特に最尤推定では、尤度関数を最大化するパラメータを求めることで、データに最も適合するモデルを獲得します。

尤度関数とは

尤度関数とは、得られたデータに対して特定の設定(パラメータ)がどれくらい適合しているかの度合いを数値化した関数です。

詳しく解説

確率が「特定のパラメータの下でデータが生成される確率」を表すのに対し、尤度関数は「すでに観測されたデータを固定し、パラメータの関数として確からしさを評価するもの」です。機械学習では、モデルが現実のデータをうまく再現できるようにパラメータを調整するために使用されます。尤度関数を最大化するパラメータを求める「最尤推定」は、モデル学習の基本的な手法です。計算の都合上、尤度関数の対数をとった対数尤度がよく用いられます。また、学習で使われる「損失関数」も、負の対数尤度として定式化されることが多いです。

具体例・使われ方

例えば、コインを10回投げて8回表が出た場合、そのコインが表を出す確率(パラメータ)を推定する場面で用いられます。パラメータを0.5と仮定したときよりも、0.8と仮定したときの方がデータの出現する尤度(確からしさ)が高くなります。機械学習では、画像認識モデルや言語モデルの重み(パラメータ)を更新する際に、収集した訓練データに対してモデルが正解を出力する尤度を計算し、それを基にモデルを学習させます。

似た用語との違い

「確率」と「尤度関数」は混同されがちですが、入力と出力の関係が逆です。確率は「パラメータが固定された状態で、データが発生する確率」を表します。一方、尤度関数は「データが既に決まっている状態で、各パラメータの確からしさ」を表します。また、モデルの過不足を測る「損失関数」とは背中合わせの関係にあり、尤度関数を最大化することと、負の対数尤度として定式化された損失関数を最小化することは数学的に同等です。

注意点

尤度関数はあくまで手元にある観測データに対する適合度を示すため、データ自体に偏りやノイズがあると適切なパラメータを推定できません。また、複雑すぎるモデルで尤度関数を極限まで高めようとすると、訓練データだけに過剰に適合する「過学習」が発生するリスクがあります。さらに、尤度関数そのものの値は「確率」ではないため、全てのパラメータに対する和や積分が1になるとは限らない点にも注意が必要です。

更新日時: 2026年8月30日 16:31