露呈バイアスとは、機械学習モデルの訓練時と生成時におけるデータの扱いの違いから生じる誤差のことです。主に自然言語処理のテキスト生成などで問題となり、訓練時は正解データを見るのに対し生成時は自身の予測結果を次の入力とするため、エラーが蓄積しやすくなります。
露呈バイアスとは
一言でいうと露呈バイアスとは、AIモデルが学習のときと実際に予測・生成をするときで異なる条件にさらされることによって、出力の品質が低下する現象です。
詳しく解説
自然言語処理や時系列予測のモデルにおいて、訓練時には正解のコンテキストやデータを与えて次の単語や数値を予測する「教師強制（Teacher Forcing）」という手法がよく使われます。しかし、推論やテストの段階では正解データが存在しないため、モデル自身がそれまでに生成した出力を次の入力として使いながら予測を続けることになります。この学習時と生成時の環境の乖離が原因で、モデルが未知のエラーに直面したときに軌道修正できず、誤った出力を連鎖的に引き起こす原因となります。
具体例・使われ方
文章生成AIにおいて、数ステップ前までは正しい文章だったものが、一度不自然な単語を生成してしまった後にそれを入力として次の単語を予測し続けた結果、文脈が完全に破綻した支離滅裂な文章になってしまう現象などが挙げられます。
似た用語との違い
過学習（オーバーフィッティング）が訓練データにモデルが過剰適応してしまう問題であるのに対し、露呈バイアスは学習手法の構造と推論時の運用の違いに起因するダイナミクスのズレを指す点が異なります。
注意点
露呈バイアスを完全に回避することは難しく、これを軽減するためには教師強制の割合を徐々に減らすカリキュラム学習や、強化学習を用いた最適化など、別の高度なアプローチを組み合わせてモデルを訓練する必要がある点に注意してください。