誤差逆伝搬法とは、ニューラルネットワークの学習において出力側の誤差を逆方向へ伝え、パラメータを効率的に調整するためのアルゴリズムです。深層学習の基礎を成す不可欠な手法であり、効率的な勾配計算を実現します。
誤差逆伝搬法とは
一言でいうと誤差逆伝搬法とは、ニューラルネットワークの予測ミスを出力の側から入力の側へとさかのぼって計算し、各ニューロンの結合ウェイトを自動的に修正するための効率的な計算手法です。
詳しく解説
ニューラルネットワークの学習では、入力データに対する予測値と正解との間にある誤差を最小化することが目的となります。誤差逆伝搬法は、微分の連鎖律（チェーンルール）を利用して、ネットワーク全体のエラーに対する各パラメータの影響度を逆向きに一括計算します。これにより、膨大なパラメータを持つ多層パーセプトロンや深層学習モデルであっても、現実的な時間で効率的に勾配を算出することが可能になりました。
具体例・使われ方
画像認識AIにおいて、ネコの画像を読み込んで「イヌ」と誤判定したとします。このとき生じた予測のズレ（誤差）を誤差逆伝搬法によって逆方向に伝達し、ネットワーク内の数百万におよぶ重みパラメータを微調整します。これを繰り返すことで、AIは次第に正確な認識ができるようになります。
似た用語との違い
順伝播（フォワードパス）は、入力を受け取りネットワークを通じて出力や予測値を計算する方向の処理を指します。これに対し、誤差逆伝搬法は得られた誤差を逆向きに伝えて勾配を求める処理であり、この両者を組み合わせて学習が行われます。
注意点
勾配消失問題として知られるように、層が深くなりすぎると逆伝搬の過程で勾配が非常に小さくなり、初期の層のパラメータがほとんど更新されなくなるという限界があります。また、局所最適解に陥るリスクや、適切な活性化関数の選択が必要である点にも注意が必要です。