検証データとは、機械学習モデルの訓練中にモデルの性能を評価し、ハイパーパラメータの調整や過学習の検知を行うために使用されるデータセットです。訓練データとは独立して用意され、モデルの直接的な学習には使われません。最適なモデル構造や設定を選び出し、未知のデータに対する予測精度を高める重要な役割を担います。
検証データとは
検証データとは、機械学習モデルの学習過程において、モデルの性能を途中評価しハイパーパラメータの調整や過学習を防ぐために用いられる評価用のデータセットです。
詳しく解説
機械学習では、収集したデータを訓練データ、検証データ、テストデータの3つに分割するのが一般的です。訓練データでモデルの重みを更新し、検証データでその時点での予測精度や誤差を測定します。この検証結果をもとに、学習率などのハイパーパラメータを調整したり、学習を途中で切り上げる早期終了を行ったりします。検証データを利用することで、モデルが訓練データだけに過剰に適合してしまう現象を早期に発見し、汎用性の高いモデルを構築できます。
具体例・使われ方
画像認識モデルの開発において、10万枚の画像データのうち70%を訓練データ、15%を検証データ、15%をテストデータに分割する事例があります。訓練を進めながら検証データに対する正解率を測定し、最も性能が高くなった時点のモデルを採用します。また、交差検証などの手法を用いて、データを複数回組み替えて検証データとして評価を行う場合もあります。
似た用語との違い
訓練データはモデルが直接パターンを学習するために使用するデータです。一方、検証データはモデルの学習そのものには使われず、ハイパーパラメータの選定や過学習の監視といった最適化の判断材料として使用されます。また、テストデータはすべての調整が完了した最終的なモデルの性能を一度だけ客観的に測定するためのデータであり、検証データのように調整の試行錯誤には使用しません。
注意点
検証データを何度も繰り返し使用してモデルの調整を行うと、モデルが検証データに対して間接的に最適化されてしまうデータリークに似た現象が発生することがあります。その結果、検証データでの評価は高く見えても、最終的なテストデータや実際の運用環境での性能が低下する恐れがあります。これを防ぐためには、テストデータを厳重に隔離して最後にのみ評価に使用することが不可欠です。