過剰検知とは、AIや機械学習を用いた検知システムにおいて、本来は検出・対処すべき対象ではない正常なデータや無害なパターンを、誤って「異常」や「検知対象」として判定してしまう現象のことです。安全性を重視して検知感度を高く設定しすぎることなどで発生し、運用現場での確認コスト増大を引き起こす要因となります。
過剰検知とは
過剰検知とは、AIや監視システムが、本来は問題のない正常な事象や無害なオブジェクトを、誤って異常や検知対象（不審物、スパム、バグなど）として検出してしまう現象のことです。
詳しく解説
機械学習モデルやパターン認識システムは、予測の不確実性を伴います。システムの設計において、重大なインシデントの見逃しを防ぐために検知感度を上げると、トレードオフの関係として過剰検知が増加します。これは「検知閾値」を低く設定しすぎることや、学習データに偏りがあること、モデルが訓練データに過剰に適合する「過学習」を起こしていることなどが原因で発生します。過剰検知が多発すると、人間による確認作業の負担が増え、重要な警告を無視してしまう『アラート疲れ』を引き起こすため、システム全体の信頼性と効率性を損なう要因として重要視されています。適切なモデル調整や、検証用データを用いた評価によってバランスを取る必要があります。
具体例・使われ方
過剰検知の具体的な例には、以下のようなものがあります。
1. セキュリティ対策ソフトが、安全なソフトウェアやシステムファイルをウイルスと誤判定してブロックするケース。
2. 迷惑メールフィルタにおいて、取引先からの重要メールが迷惑メールフォルダに振り分けられるケース。
3. 製造ラインの検査AIにおいて、良品にある単なる光の反射や微小な色ムラを「キズ（不良品）」として検出してしまうケース。
4. 異常検知システムにおいて、一時的なネットワーク負荷の上昇をサイバー攻撃として検知し、管理者に頻繁に警告を送るケース。
似た用語との違い
過剰検知と混同されやすい概念として、以下の違いが挙げられます。
・「偽陽性」（ファルス・ポジティブ）: 統計学や機械学習における評価指標の一つで、陰性のものを誤って陽性と判定した「個々の誤判定」そのものを指します。これに対し、過剰検知はシステム運用において「誤判定が多く発生している状態やその傾向」を表す実用上の用語として使われます。
・見逃し（偽陰性）: 本来検出するべき対象を検出できない現象で、過剰検知とは逆のトレードオフの関係にあります。
・「適合率」と「再現率」: 適合率は「検知したもののうち、実際に正解だった割合」であり、過剰検知が多いと適合率は低下します。再現率は「本来検知すべきもののうち、実際に検知できた割合」であり、過剰検知を許容してでも再現率を高める（見逃しを減らす）設計が行われることがあります。
注意点
過剰検知を極端に減らそうとシステムの「検知閾値」を厳しくしすぎると、今度は本当に検知すべき重要な事象を見逃すリスク（偽陰性の増加）が高まります。運用フェーズにおいて、どの程度の過剰検知を許容できるかという許容値を事前合意しておくことが重要です。また、過剰検知の根本的な改善には、誤検知の原因を分析し、「アノテーション」の基準を見直して再学習を行うなど、継続的なチューニングが不可欠であり、一度開発したAIをそのまま放置するだけでは解決しません。