教師強制とは、言語モデルや時系列モデルの学習において、前のステップでモデル自身が予測した値ではなく、正解データを次のステップの入力として与える学習手法です。学習の初期段階でも誤差の拡大を防ぎ、モデルの収束を大幅に早める効果があります。一方で、学習時と推論時の入力条件の違いによる性能低下を招く場合もあります。
教師強制とは
教師強制とは、リカレントニューラルネットワークなどの時系列モデルや言語モデルの学習において、モデルが直前に予測した出力ではなく、正解データを次のステップの入力として与える学習方法です。
詳しく解説
時系列データや言語を扱うディープラーニングモデルでは、前のステップの出力を次のステップの入力として順次生成を行う自己回帰モデルが用いられます。しかし、学習初期にモデルの予測が大きく外れている場合、間違った予測を次のステップにそのまま引き継ぐと誤差が増幅し、学習が非常に不安定になります。教師強制を導入することで、モデルは常に正しい文脈に基づいて次の出力を予測できるため、学習の収束が著しく高速化します。現代のトランスフォーマーなどのモデルでも、学習時の並列計算を可能にする基盤としてこの概念が活用されています。
具体例・使われ方
例えば、機械翻訳モデルで「私は猫です」を「I am a cat」と翻訳する学習を行うケースを考えます。モデルが最初のステップで「He」と誤って予測した場合でも、次のステップの入力にはモデルの予測である「He」ではなく、正解である「I」を強制的に入力して「am」や「a cat」の予測学習を継続させます。
似た用語との違い
推論時の動作との違いが重要です。推論時には正解データが存在しないため、モデル自身が前のステップで出力した予測結果を次の入力として利用する自己回帰的な生成が行われます。このように学習時には正解データを与える教師強制を用い、推論時にはモデル自身の予測値を用いる点において、入力データの依存関係に明確な違いが存在します。
注意点
教師強制の課題として「暴露偏位」と呼ばれる現象が生じることが挙げられます。学習時に常に正解データしか見せられないため、推論時にモデル自身が誤りを犯した際のリカバリー能力が育ちにくく、一度の予測ミスが連続した誤りを引き起こす原因となります。この問題を緩和するため、学習進行に応じて一定の確率でモデル自身の予測値を入力に混ぜる計画的サンプリングなどの手法が組み合わせて使われます。