Leaky ReLU
Leaky ReLUは、ディープラーニングのニューラルネットワークで使われる活性化関数のひとつです。従来のReLU関数で発生する「勾配消失問題」を改善するため、負の入力に対してわずかな傾きを持たせた仕組みが特徴です。
活性化関数に関するAI用語を2件掲載しています。意味や使い方、関連用語を一覧から確認できます。
Leaky ReLUは、ディープラーニングのニューラルネットワークで使われる活性化関数のひとつです。従来のReLU関数で発生する「勾配消失問題」を改善するため、負の入力に対してわずかな傾きを持たせた仕組みが特徴です。
ReLU関数(Rectified Linear Unit)は、ディープラーニングで広く使われる活性化関数の一つです。入力が0以下の場合は0を出力し、0より大きい場合は入力値をそのまま出力するシンプルな仕組みを持ち、勾配消失問題を軽減して学習を高速化する重要な役割を果たします。