データ漏洩とは、AIモデルの学習時に本来テストデータとして分離すべき情報が混入し、過学習を引き起こして予測精度が著しく低下する現象です。特に機械学習の開発現場でモデルの信頼性を損なう重大な問題として警戒されています。
データ漏洩とは
データ漏洩とは、AIモデルの訓練（学習）プロセスにおいて、本来は検証やテストのために隠しておくべき情報が誤って混入してしまう現象を指します。
詳しく解説
機械学習の開発では通常、モデルが未知のデータに対しても正しく予測できるかを評価するため、データを訓練用とテスト用に分割します。しかし、前処理の段階でデータ全体を使って特徴量のスケーリングを行ったり、時系列データをランダムに分割して未来の情報が訓練データに含まれてしまったりすると、データ漏洩が発生します。これにより、モデルは訓練時には高い精度を示すものの、実際の運用時には性能が大幅に低下するという問題が生じます。
具体例・使われ方
例えば、顧客の解約予測モデルを作る際、データ全体の平均値や標準偏差を用いて欠損値補完や正規化を事前に行った場合、テストデータの情報が訓練フェーズに漏れ出していることになります。また、医療AI画像診断において、同一患者の複数の画像が訓練データとテストデータに分散して含まれていた場合も、モデルが患者の特徴を過剰に学習するデータ漏洩の一種となります。
似た用語との違い
セキュリティ分野における「情報漏えい（不正アクセスによる個人情報の外部流出）」という言葉と混同されやすいですが、AI開発におけるデータ漏洩は、主にデータの混入による過学習や評価の歪みを指す技術的な用語です。
注意点
データ漏洩は、クロスバリデーションの適用ミスや前処理の順番を誤ることで容易に発生します。表面上の評価メトリクスが不自然に高くなるため、開発者が問題に気づきにくい点に注意が必要です。厳密なデータ分離と正しい前処理パイプラインの構築が不可欠となります。