ベイズ推定機械学習統計

周辺尤度

しゅうへんゆうど · Marginal Likelihood
22 views

周辺尤度とは、ベイズ統計においてモデルの妥当性を評価するための指標であり、パラメータを周辺化(積分消去)して得られる確率です。モデル選択やハイパーパラメータの最適化において、複雑すぎるモデルにペナルティを与えつつデータの予測性能を評価するために重要な役割を果たします。

周辺尤度とは

一言でいうと周辺尤度とは、事前分布を考慮した上で、ある統計モデルが観測データをどれだけうまく説明できるかを示す指標です。

詳しく解説

周辺尤度は、尤度関数に対してモデルのパラメータに関する事前分布を掛け合わせ、すべてのパラメータ空間にわたって積分(周辺化)したものです。ベイズモデル比較において、データに対するモデル自体の適合度と複雑さのバランスを自動的に調整する性質を持ち、オッカムの剃刀の原理を数学的に実現するものとして重要視されます。しかし、一般にこの積分を解析的に解くことは困難であり、モンテカルロ法などの近似手法が必要となります。

具体例・使われ方

例えば、多項式曲線の次数(1次、2次、5次など)を決定する問題において、各モデルの周辺尤度を計算することで、データに最も適合しつつ過学習を起こさない適切なモデルの次数を客観的に選択することができます。

似た用語との違い

最尤推定で使われる「尤度」が特定のパラメータ値のもとでのデータの確率であるのに対し、「周辺尤度」はパラメータをすべて積分消去した後のデータ全体の確率である点が異なります。また、事後分布とは異なり、パラメータの条件付き確率ではなく、モデルそのものの評価値となります。

注意点

周辺尤度の計算には高次元の積分が含まれるため、計算コストが非常に高く、近似の精度が悪いと誤ったモデル選択につながる恐れがあります。また、結果が事前分布の選び方に強く依存するという限界もあります。

更新日時: 2026年9月10日 07:31