ボルツマン分布は、熱力学や統計力学において系が特定のエネルギー状態をとる確率を示す確率分布です。AIの分野では、制限付きボルツマンマシンなどのニューラルネットワークや、最適化問題における確率的探索アルゴリズムの基礎として広く応用されています。
ボルツマン分布とは
ボルツマン分布とは、ある物理系や確率的モデルが、温度やエネルギー準位に応じてそれぞれの状態にどのくらいの確率で存在するかを記述する確率分布のことです。
詳しく解説
ボルツマン分布は統計力学に由来する概念で、系の温度が高いほど状態間のエネルギー差による確率の偏りが小さくなり、様々な状態が均等に出現しやすくなります。逆に温度が低いときは、最もエネルギーの低い状態（基底状態）に確率が強く集中します。人工知能においては、制限付きボルツマンマシンなどの確率的ニューラルネットワークにおいて、可視変数と隠れ変数の同時確率を定義する基盤として利用されています。また、サンプリング手法であるマルコフ連鎖モンテカルロ法や、組合せ最適化を解くシミュレーテッドアニーリングにおいても、解の探索過程を制御するためにこの分布が不可欠な役割を果たしています。
具体例・使われ方
具体的なAIの利用例として、制限付きボルツマンマシンを用いた次元削減や特徴量学習、レコメンデーションシステムが挙げられます。また、エネルギー関数で定義された複雑な確率分布から効率的にサンプルを生成するアノイリング法などの最適化アルゴリズムにも応用されています。
似た用語との違い
正規分布などの一般的な連続確率分布がデータの散らばりを平均と分散で捉えるのに対し、ボルツマン分布は物理的なエネルギー状態や温度というパラメータを明示的に含んで状態の出現確率を定める点が異なります。
注意点
ボルツマン分布の計算には、すべての可能な状態にわたる和（分配関数）を計算する必要があることが多く、状態数が膨大になる複雑なAIモデルではこの計算が極めて困難になるというスケーラビリティの限界があります。