ジニ不純度とは、データセット内の多様さや混ざり具合（不純度）を表す指標です。主に機械学習の決定木モデルにおいて、データをどの特徴量で分割するのが最適かを評価する基準として用いられます。すべてのデータが同じクラスに属する状態で最小値0となり、均等に混ざり合うほど高くなります。エントロピーに比べ計算負荷が低い点が特徴です。
ジニ不純度とは
ジニ不純度とは、データセットの「雑多さ（不純度）」を表す指標の一つであり、機械学習における決定木の構築時に分割基準として広く用いられる数値です。データがどの程度きれいに分類されているかを評価するために使用されます。
詳しく解説
ジニ不純度は、集団からランダムに選んだ2つの要素が異なるクラスに属する確率を表します。すべての要素が同じクラスに属している場合、ジニ不純度は「0」（完全な純粋状態）になります。逆に、各クラスのデータが均等に混ざり合っているほど、ジニ不純度は高くなります（2クラスの均等分布では最大値が「0.5」）。決定木（特にCARTアルゴリズム）では、データを子ノードに分割する際に、分割後のジニ不純度の加重平均が最も小さくなる（つまり、各グループの純度ができるだけ高くなる）ような分岐ルールを選択します。この不純度の減少量を指標として分割を繰り返すことで、効率的なモデルを構築します。
具体例・使われ方
ある果物のデータセット（リンゴ10個、ミカン10個）を考えます。この状態は混ざり合っているためジニ不純度は「0.5」と高くなります。ここで「色」という特徴量を使って「赤」と「オレンジ」に分割した結果、赤いグループにはリンゴ10個のみ、オレンジのグループにはミカン10個のみとなった場合、それぞれのグループのジニ不純度は「0」になります。このようにジニ不純度が最小になるような特徴量と閾値を見つけることで、決定木の分岐が決定されます。
似た用語との違い
ジニ不純度とよく混同される概念に「エントロピー」があります。どちらも不純度を表す指標であり、決定木の分割基準として用いられます。ジニ不純度は二乗和を用いた単純な数式で計算できるため、対数（log）計算を必要とするエントロピーに比べて計算負荷が低く、処理が高速という特徴があります。一方で、どちらを採用しても構築される決定木の精度には大きな差が生じないことが多いです。
注意点
ジニ不純度は計算が高速で実用性が高い一方、多クラス分類においてクラス数が多い場合や、データの偏りが極端な場合には適切な分割が難しくなることがあります。また、不純度が減少するからといって決定木を深くしすぎると、訓練データに過剰に適合してしまう過学習を引き起こすため、適切な剪定や木の深さの制限が必要です。さらに、ランダムフォレストなどのアンサンブル学習を組み合わせることで、単一の決定木の限界を補うことが一般的です。