分布外データ（OODデータ）とは、機械学習モデルの訓練データの確率分布に含まれない、未知の傾向や性質を持つデータのことです。モデルは学習時の想定と異なる入力に対しても誤って高い確信度で予測を出力することがあり、実運用における信頼性や安全性の低下を招くため、その検知と適切な対処が重要視されています。
分布外データとは
分布外データとは、AIモデルが学習時に前提としていたデータの母集団や統計的パターンから外れた、未知の入力データのことです。
詳しく解説
多くの機械学習モデルは、学習時と推論時でデータが同一の確率分布から生成されるという前提（i.i.d.仮定）に基づいて構築されています。しかし、実世界の環境は常に変化するため、学習時とは異なる分布外データが入力されるケースが頻繁に発生します。ディープラーニングモデルは、未知の分布外データに対しても誤って高い信頼度スコアを出力してしまう脆弱性があり、予期せぬ誤動作や事故の原因となります。そのため、入力が学習データの分布に含まれるかを判定する検知手法や、未知データに対して過度な確信を持たないようにする頑健性の向上が重要な研究課題となっています。
具体例・使われ方
例えば、晴天時の画像だけで学習した自動運転システムの画像認識AIに、猛吹雪の夜間の映像が入力された場合が該当します。また、一般的な医療機関の成人患者データで学習した診断支援AIに対し、小児の希少疾患データが入力されるケースや、言語モデルが学習していない新語や特殊な専門用語を大量に含む文章が入力される場合などが挙げられます。
似た用語との違い
学習時の前提に従う通常データを「分布内データ」と呼び、分布外データはその対概念です。また、母集団自体は同じだが極端な値を取る「外れ値」や、時間経過に伴いデータの統計的性質が変化する「データドリフト」とも関連しますが、分布外データはモデルが想定していない全く異なる母集団からの入力を指すことが多いです。さらに、人間には見えない微小なノイズでモデルを意図的に誤認させる「敵対的サンプル」とも異なり、分布外データは悪意の有無にかかわらず発生します。
注意点
分布外データ検知技術を導入しても、あらゆる未知の入力を完璧に識別できるわけではありません。また、分布外データとして判定された入力を単純に拒否するだけではシステムの可用性が低下するため、人手による確認へ切り替えるフォールバック設計や、段階的な再学習などの運用プロセスの構築が不可欠です。