離散確率分布とは、とる値が飛び飛びで個別に数えられる確率変数が従う確率の割り当てを示す表現です。サイコロの出目やコインの表裏のように明確に区別できる事象に対して、各値が発生する確率を対応させます。AIや機械学習の分野では、自然言語処理における次の語の予測や分類問題で各クラスへの所属確率を表す際に活用されます。
離散確率分布とは
離散確率分布とは、取り得る値が分離しており、一つひとつ数えられる確率変数に対して各値が得られる確率の対応関係を示したものです。
詳しく解説
確率変数がとる値が有限個、または無限であっても1つずつ数え上げられる場合、その確率変数を離散確率変数と呼びます。この変数がどの値をどのような確率で取るかを表した仕組みが離散確率分布です。離散確率分布では、各事象の確率を表す関数として確率質量関数が用いられます。AIの分野では、画像認識でのクラス分類モデルが各カテゴリに分類される確率を出力する際や、言語モデルが次に出力すべき適切なトークンを予測するアルゴリズムなどで基盤技術として広く活用されています。
具体例・使われ方
具体的な例として、サイコロを振ったときの目が出る確率や、コインを投げたときの表裏が出る確率があげられます。AIの例としては、手書き文字認識AIが入力画像に対して0から9の数字のいずれであるかを確率で予測する事例があります。また、テキスト生成AIが語彙リストの中から次に続く言葉を決定する際にも、各候補の出現確率を計算するために利用されます。
似た用語との違い
連続確率分布との違いが代表的です。連続確率分布は身長や気温のように値が連続的に変化し、一定の区間に対する確率を扱います。一方で離散確率分布は飛び飛びの値のみを対象とし、各ピンポイントの値に対して直接確率が割り当てられます。代表的な種類として、試行結果が2通りのベルヌーイ分布や、それを複数回繰り返す二項分布が存在します。
注意点
離散確率分布を扱う際は、すべての離散的な事象の確率を足し合わせると必ず1になるという基本性質を満たす必要があります。また、分類対象のカテゴリ数や言語モデルにおける語彙数が非常に大きくなると計算コストが膨大になる課題があります。連続的な量を無理に離散化して適用すると重要データが失われるため、対象データの性質に適したモデル選定が必要です。