ティーチャーフォーシングとは、再帰型ニューラルネットワークなどの自動回帰モデルを訓練する際、過去の予測結果ではなく正解データを次のステップの入力として与える手法です。学習初期の予測のズレによる誤差の増幅を防ぎ、学習の収束速度を大幅に向上させます。一方で学習時と推論時の入力条件の違いに注意が必要です。
ティーチャーフォーシングとは
一言でいうと、シーケンスデータを扱うモデルの学習時に、モデル自身の予測値ではなく正解データを次のステップの入力として強制的に使用する学習支援手法です。
詳しく解説
言語モデルや音声処理などの自動回帰モデルでは、前のステップの出力を用いて次のステップの予測を行います。しかし学習初期にモデルが誤った出力をすると、その誤りが以降のステップへ連鎖的に悪影響を及ぼし、モデルの学習が進まなくなる問題が生じます。ティーチャーフォーシングでは、教師役として各ステップに必ず正しいデータを与えることで誤差の伝播を遮断し、効率的な学習を可能にします。これにより、再帰型ニューラルネットワークの学習が安定し、計算コストの削減と学習の高速化が実現されます。
具体例・使われ方
例えば、機械翻訳で英文を日本語に翻訳するモデルを学習させる場合を考えます。最初のステップでモデルが誤った単語を予測した場合でも、次のステップの入力にはモデルの予測ではなく、正解となる日本語単語を与えて予測させます。このように正解のコンテキストを維持しながらモデルを学習させます。
似た用語との違い
モデル自身の予測結果を次のステップの入力として使用する手法はフリーランニングと呼ばれます。フリーランニングは実際の推論時と同じ条件で動作しますが、学習初期の収束が極めて遅いという特徴があります。これに対し、ティーチャーフォーシングは常に正解を入力するため学習が格段に早くなります。両者の中間手法として、学習の進行に合わせて徐々に正解入力の割合を減らすスケジュール化サンプリングも存在します。
注意点
最大の問題点は露呈バイアスと呼ばれる現象です。学習時には常に正解データが与えられるため、推論時にモデルが一度予測を間違えると、その誤差を自力で修正できず生成結果全体が大幅に崩れてしまうリスクがあります。そのため、実際の推論性能を考慮してスケジュール化サンプリングなどの対策を組み合わせることが推奨されます。