AIや機械学習モデルが自身の予測結果に対してどの程度確信を持っているかを数値で表した指標です。画像認識や自然言語処理などの分類問題でよく用いられ、出力結果の妥当性を評価したり人間による確認が必要かを判断したりする際の重要な基準となります。
信頼度とは
信頼度とは、AIモデルが提示した予測や出力結果に対して、モデル自身がどのくらい確信を持っているかを0から1などの数値やパーセンテージで示した指標です。
詳しく解説
機械学習における信頼度は、主に分類モデルが各クラスに属する確からしさを評価する際に算出されます。ディープラーニングでは、出力層にソフトマックス関数を適用して得られる確率値を信頼度として利用することが一般的です。モデルの予測精度向上だけでなく、信頼度の低い予測を自動処理から除外して人間の専門家に判定を委ねるセーフティ機能の実装や、システムの信頼性設計において非常に重要な役割を果たします。
具体例・使われ方
たとえば、画像診断AIが病変を検知した際に「悪性である可能性：85%」と表示する場合の85%が信頼度にあたります。また、自動運転システムが標識を認識する際に、信頼度が一定値未満であれば慎重な動作を選択するといったリスク管理の場面で利用されます。
似た用語との違い
「精度」はモデル全体がどのくらい正しく予測できたかを示す全体的な評価指標であるのに対し、「信頼度」は個々の予測出力に対するモデル自身の確信度合いを指します。また「確率」と厳密には異なり、高度なモデルであっても実際の正解率と一致しない過剰確信が起きる場合があるため、適切な調整が必要です。
注意点
高い信頼度が出力されていても、AIの予測が必ずしも正しいとは限りません。特に深層学習モデルでは、間違った予測に対して極端に高い信頼度を出す過剰確信という問題が発生しやすいため、信頼度と実際の正解率を一致させるキャリブレーションという技術的対応や人間による事前確認が重要です。