ベルヌーイ分布は、結果が成功と失敗の2通りしかない試行の確率をモデル化する最も基本的な確率分布です。機械学習においては、二値分類問題の出力層や潜在変数の表現など、確率的な予測を行う際の基礎として広く利用されています。
ベルヌーイ分布とは
一言でいうと、コイントスのように「表か裏か」「成功か失敗か」という2つの結果だけをとる事象の確率を数式で表したものです。
詳しく解説
ベルヌーイ分布は、1回の試行で成功する確率が「p」、失敗する確率が「1-p」であるような離散確率分布です。数学的には確率変数Xが0または1をとり、成功する確率をpとして、P(X=1) = p、P(X=0) = 1-p と定義されます。AIや機械学習の文脈では、例えばニューラルネットワークの出力層でシグモイド関数を用いて、あるデータが特定のクラスに属する確率を予測する際などに、このベルヌーイ分布の考え方が背後で利用されています。
具体例・使われ方
具体的な利用例として、メールがスパムであるか（1）そうでないか（0）を判定する二値分類モデルの出力確率や、顧客が広告をクリックするか（1）しないか（0）を予測するマーケティングAIの予測モデルなどで基礎理論として活用されています。
似た用語との違い
結果が2つだけでなく複数ある試行を扱う場合は「カテゴリ分布」や「多項分布」になり、ベルヌーイ分布はそれらの試行回数が1回かつ選択肢が2つの特例とみなせます。また、ベルヌーイ分布の試行を複数回繰り返した総和を扱う場合は「二項分布」になります。
注意点
ベルヌーイ分布はあくまで結果が2つに分かれる単純な事象を前提としているため、現実の複雑なデータや複数の選択肢がある多値分類問題にそのまま適用することはできません。また、データが独立かつ同一の確率分布に従っているという仮定が満たされない場合、予測精度が低下する点に注意が必要です。