不確実性とは、AIや機械学習モデルの予測や判断における「あいまいさ」や「自信のなさ」を示す指標です。ノイズによる「偶然的不確実性」と、知識不足による「認識的不確実性」に分類されます。医療診断や自動運転など、高い安全性が求められる分野で、モデルの判断の信頼性を評価し安全な意思決定を支援するために極めて重要です。
不確実性とは
不確実性とは、AIや機械学習モデルが予測や判断を行う際、その出力にどの程度の「あいまいさ」や「自信のなさ」が含まれているかを表す指標です。データそのもののばらつきや、学習データの不足などに起因します。
詳しく解説
機械学習において、不確実性は主に「偶然的不確実性」と「認識的不確実性」の2つに分類されます。偶然的不確実性はデータに内在するノイズに由来し、データをいくら増やしても削減できません。一方、認識的不確実性はモデルの知識不足に由来し、学習データを増やすことで削減可能です。深層学習（ニューラルネットワーク）などの高度なモデルでは、単に予測値を出すだけでなく、予測の信頼性を確率分布などで表現することで、モデルの意思決定の信頼度を評価し、安全性を高める研究が進められています。
具体例・使われ方
自動運転システムを例に挙げると、前方の物体が「歩行者」か「障害物」か判断が難しい場合、モデルが高い不確実性を検知してシステムが安全に減速・停車する判断を下します。また、医療画像の診断支援AIにおいて、疾患の兆候の有無に関する不確実性が高い場合に、AIが単独で診断を下さずに医師へダブルチェックを促すといった運用に活用されています。
似た用語との違い
不確実性と混同されやすい概念に「予測誤差」があります。予測誤差は実際の正解値とモデルの予測値とのズレを指しますが、これは事後的にしか測定できません。これに対し、不確実性は正解がわからない予測の段階で、その予測の「不確かさ」を事前に定量化したものです。また、リスクは不確実性に伴う損失の大きさを加味した概念であり、統計学的な不確実性そのものとは区別されます。
注意点
不確実性を正しく評価するには、モデルが適切にキャリブレーションされている必要があります。例えば、ニューラルネットワークは時として過剰な自信を持って誤った予測を出力することがあり、出力された確率値がそのまま真の不確実性を反映しているとは限りません。不確実性の算出手法そのものにも計算コストや近似精度の限界が存在するため、運用の際には注意が必要です。