機械学習確率統計

ギブスサンプリング

ぎぶすさんぷりんぐ · Gibbs Sampling
18 views

ギブスサンプリングは、複雑な多次元確率分布から直接サンプリングを行うことが困難な場合に、各変数を個別に条件付き確率から順番にサンプリングして近似的なサンプルを得るマルコフ連鎖モンテカルロ法の一種です。

ギブスサンプリングとは

一言でいうと、複雑な確率分布から効率的に乱数を生成するためのマルコフ連鎖モンテカルロ法(MCMC)のアルゴリズムです。

詳しく解説

ギブスサンプリングは、多次元の確率分布において全ての変数を同時に扱う代わりに、ある1つの変数を選び出し、他の変数の値が固定された条件の下でのその変数の条件付き確率分布から新しい値をサンプルする操作を繰り返す手法です。これを全変数について順番に行うことで、全体の結合確率分布に従うサンプル列を得ることができます。ベイズ統計学や確率モデルにおいて、事後分布の計算が解析的に解けない場合に広く利用されています。

具体例・使われ方

自然言語処理におけるトピックモデル(LDA)の推定や、画像処理におけるノイズ除去などで、隠れ変数の事後分布をサンプリングするために使われます。

似た用語との違い

一般的なメトロポリス・ハースティング法が候補の提案と採択・拒否のステップを必要とするのに対し、ギブスサンプリングは提案された候補が常に採択される特殊なケースと見なすことができ、パラメータ調整の手間が少ない特徴があります。

注意点

変数の間強い相関がある場合や、次元数が非常に大きい場合には、サンプル間の自己相関が高くなり、収束に非常に時間がかかるという限界があります。

更新日時: 2026年9月15日 08:51