ルックアヘッドマスク
ルックアヘッドマスクとは、Transformerなどの自己注意機構において、未来の単語情報をモデルが参照することを防ぐための手法です。主に言語生成タスクの学習時に用いられ、正解データ（未来の情報）を先読みしてズルをすることを防ぎ、正確な予測能力を養います。
アテンション機構のAI用語一覧
1件アテンション機構に関するAI用語を1件掲載しています。意味や使い方、関連用語を一覧から確認できます。
アテンション機構に関するAI用語を1件掲載しています。意味や使い方、関連用語を一覧から確認できます。
ルックアヘッドマスクとは、Transformerなどの自己注意機構において、未来の単語情報をモデルが参照することを防ぐための手法です。主に言語生成タスクの学習時に用いられ、正解データ（未来の情報）を先読みしてズルをすることを防ぎ、正確な予測能力を養います。