ディープラーニングリカレントニューラルネットワーク

入力ゲート

にゅうりょくげーと · input gate
16 views

入力ゲートとは、LSTMなどのリカレントニューラルネットワークにおいて、新しい情報をどの程度セル状態に記憶すべきかを制御する仕組みです。情報の取捨選択を行うことで、長期的な文脈の保持を可能にします。

入力ゲートとは

入力ゲートとは、AIが新しい入力データのうち、どれくらい重要な情報を長期記憶に保存するかを決定する開閉機構のことです。

詳しく解説

リカレントニューラルネットワークの基本構造では、古い情報が失われやすいという勾配消失問題がありました。これを解決するために登場したLSTMでは、セル状態と呼ばれる記憶領域を持ちます。入力ゲートは、シグモイド関数などを用いて現在の入力値と過去の隠れ状態を評価し、0から1の範囲で重要度を出力します。これにより、必要な情報だけを選択的に取り込み、不要な情報を排除しながら効率的な学習と推論を実現します。

具体例・使われ方

自然言語処理において長い文章を翻訳する際、文の後半を処理する段階でも前半の重要な主語や文脈の情報を記憶し続けるために活用されます。

似た用語との違い

忘却ゲートが過去の不要な情報をどれだけ消去するかを決定するのに対し、入力ゲートは新しい情報をどれだけ追加するかを制御する点で異なります。

注意点

ゲート機構の導入によりパラメータ数が増加するため、通常のRNNと比較してモデルの計算コストが高くなり、学習により多くの時間とデータが必要になる点に注意が必要です。

更新日時: 2026年9月16日 14:41