感度解析とは、AIモデルや数理モデルの入力変数の変化が、その出力結果にどの程度の影響を与えるかを調査する手法です。モデルの信頼性評価や重要な特徴量の特定、ブラックボックス化された機械学習モデルの解釈性を高めるために広く活用されています。
感度解析とは
一言でいうと感度解析とは、モデルの入力値が少し変わったときに出力結果がどれくらい大きく変化するかを調べる分析手法です。
詳しく解説
感度解析は、モデルの挙動を理解するための重要な仕組みです。機械学習においては、多数の入力変数（特徴量）の中からどれが予測結果に強い影響を与えているかを数値化するために用いられます。例えば、ディープラーニングや勾配ブースティングなどの複雑なアルゴリズムにおいて、各変数の寄与度を明らかにすることで、モデルがどのような根拠で判断を下しているのかを把握しやすくなります。背景として、AIのブラックボックス問題を解決し、医療や金融などの説明責任が求められる分野でモデルの信頼性を担保する重要性が高まっています。
具体例・使われ方
医療診断支援AIにおいて、患者の血圧や年齢などの入力値が数パーセント変化した際に、病気のリスク予測スコアがどのように変動するかを確認するために感度解析が使われます。また、金融の信用スコアリングでは、収入や借入額の変動が融資可否の判定に与える影響度を測定する際にも利用されます。
似た用語との違い
混同されやすい概念として、特徴量重要度があります。特徴量重要度はモデル全体を通じてどの変数が重要かを示す大まかなランキングであるのに対し、感度解析は特定の入力値の変化に対する出力の反応をより詳細かつ動的に評価するアプローチを指す場合が多くあります。
注意点
感度解析の限界として、入力変数間に強い相関関係がある場合、正しい影響度を測定することが難しくなる点が挙げられます。また、非線形性が非常に高いモデルでは、局所的な変化と全体的な傾向が一致しない場合があり、解釈を誤るリスクに注意する必要があります。