BIC（ベイズ情報量基準）は、統計学や機械学習において、複数の候補モデルの中から最も適切なモデルを評価・選択するための指標です。モデルの適合度（尤度）を高めつつ、パラメータ数の増加による過学習を防ぐため、モデルの複雑さにペナルティを科します。特にサンプルサイズが大きいデータセットでのモデル選択に強みを持っています。
ベイズ情報量基準 (BIC)とは
BIC（ベイズ情報量基準）とは、統計学や機械学習において、複数の統計モデルの中から最も適切なモデルを選択するための指標です。「モデル選択」の基準として広く用いられ、モデルの予測精度と複雑さのバランスを評価します。
詳しく解説
BICは「尤度関数」の最大値に基づいてモデルの適合度を測る一方で、モデルに含まれる「パラメタ数」が増えることによる「過学習」を防ぐためにペナルティを科します。数式としては、-2 × 最大対数尤度 ＋ パラメタ数 × ln(サンプルサイズ) で定義されます。値が小さいほど、無駄なパラメータが少なくデータによく適合した優れたモデルであると判断されます。特徴的なのは、ペナルティ項に「サンプルサイズ」の対数が掛け合わされている点です。
具体例・使われ方
具体的な利用例として、回帰分析でどの説明変数（特徴量）を採用するかを決定する変数選択の場面が挙げられます。また、クラスタリング手法である混合ガウスモデルにおいて、クラスタ数をいくつに設定するのが最適かを決定する際にも、BICを算出して最小となるモデルが選ばれます。
似た用語との違い
最も混同されやすい指標として「AIC」（赤池情報量基準）があります。AICとBICの最大の違いは、モデルの複雑さに対するペナルティの強さです。AICはペナルティが一定（常に2 × パラメタ数）であるのに対し、BICはサンプルサイズが大きくなるほどペナルティが強くなります。そのため、BICはAICよりもパラメタ数が少ないシンプルなモデルを選ぶ傾向があります。
注意点
BICはサンプルサイズが十分に大きい（漸近的）という仮定に基づいているため、データ数が極端に少ない場合には信頼性が低下します。また、BICが最小のモデルを選んだとしても、それが現実の真のモデルであるとは限らず、あくまで候補の中で相対的に優れたものであるという点に注意が必要です。