アイソトニック回帰は、単調性の制約を満たしながらデータの変化に追従するノンパラメトリックな回帰手法です。機械学習モデルが出力する確率値のキャリブレーションなどで広く活用されています。
アイソトニック回帰とは
一言でいうと、大小関係の順序を守りつつ、データに最もフィットする単調な階段状または折れ線状の関数を求める手法です。
詳しく解説
アイソトニック回帰は、目的変数と説明変数の間に単調増加あるいは単調減少の関係があるという前提のもとで、最小二乗法を用いて最適化を行うノンパラメトリックな手法です。通常の線形回帰のように特定の数式を仮定せず、データの順序関係（単調性）を完全に維持しながら、連続的な予測値を階段状や区分線形の関数に変換します。機械学習においては、分類モデルが算出した確率の信頼性を高めるためのキャリブレーション（補正）手法として非常に重要視されています。例えば、モデルが出力したスコアが過信されている場合に、実際の正解率と確率値の対応関係を正しく整える役割を果たします。
具体例・使われ方
機械学習の分類モデル（ランダムフォレストやニューラルネットワークなど）が出力した確率スコアを、実際の的中確率に近づけるキャリブレーション処理として利用されます。また、医学やマーケティング分野において、投与量と効果の関係や、価格と需要の関係など、理論的に単調性が保証されるべき現象のモデリングに適用されます。
似た用語との違い
通常の線形回帰が直線的な関係を仮定するのに対し、アイソトニック回帰は直線を仮定せず、単調性の制約のみを課す点が異なります。また、決定木モデルとは異なり、階層的な条件分岐ではなくパルロイドやプーリングアルゴリズムに基づいて単調な最適化を行います。
注意点
データが単調増加や単調減少の性質を持たない場合、誤った制約を課すことになり精度が低下します。また、過学習を起こしやすいため十分なデータ量が必要である点や、外挿（学習データの範囲外の予測）が苦手である点に注意が必要です。