ベイズファクターとは、ベイズ統計学に基づき、観測データに対して2つの仮説やモデルのどちらがより妥当であるかを定量的に比較するための統計的指標です。従来のｐ値による検定とは異なり、データが各仮説を支持する相対的な強さを直接評価できます。機械学習における最適なモデル選択や、過学習を防ぐための評価基準として広く活用されています。
ベイズファクターとは
ベイズファクター（Bayes Factor）とは、ベイズ統計学において、2つの仮説またはモデルのどちらが観測データに対してより妥当であるかを比較・評価するための統計的指標です。
詳しく解説
ベイズファクターは、特定のデータが得られたときに、仮説Aと仮説Bのどちらがどれだけ支持されるかを数値化します。具体的には、それぞれの仮説のもとでそのデータが観測される確率（周辺尤度）の比として計算されます。従来の統計学における仮説検定のように一方の仮説を一方的に棄却するのではなく、データが両仮説を支持する相対的な強さを直接評価できるのが特徴です。AIや機械学習の分野においては、過学習を防ぎつつ最適な予測モデルを決定する「モデル選択」の基準として重要な役割を果たします。事前の信念である「事前確率」と、観測されたデータを掛け合わせて得られる「事後確率」の比率を更新する割合としても解釈できます。
具体例・使われ方
例えば、ある画像認識AIモデルにおいて、「新しい特徴量を追加した複雑なモデル（仮説A）」と「既存のシンプルなモデル（仮説B）」のどちらが優れているかを評価する際に用いられます。得られたデータからベイズファクターを計算し、その値が「10」であれば、複雑なモデルの方がシンプルなモデルよりも10倍データに適合していると判断できます。これにより、単に訓練データへの適合度が高いだけでなく、モデルの複雑さに対するペナルティも考慮した、適切なモデル選択が可能になります。
似た用語との違い
ベイズファクターと最も混同されやすいのは、頻度主義統計学における仮説検定で用いられる「ｐ値」です。ｐ値は「帰無仮説が正しいと仮定したときに、得られたデータまたはそれ以上に極端なデータが得られる確率」を示し、値が小さいほど帰無仮説を棄却します。しかし、ｐ値は「対立仮説がどれだけ正しいか」を直接示すことはできません。また、データ数が増えるとわずかな差でも有意になりやすい欠点があります。これに対し、ベイズファクターは2つの仮説の「尤度比」を直接比較するため、「どちらの仮説がより確からしいか」を定量的に評価できます。
注意点
ベイズファクターは強力なツールですが、計算において設定する事前分布の影響を強く受けるという注意点があります。客観的な事前情報の定義が難しい場合、事前分布の選び方次第でベイズファクターの値が大きく変動し、モデル選択の結果が変わる可能性があります。また、パラメータ空間が広大な複雑な深層学習モデルなどでは、周辺尤度の多重積分を厳密に計算することが極めて困難であり、近似計算アルゴリズムが必要になるため計算コストが膨大になります。