ディープラーニング最適化機械学習

逆伝播法

ぎゃくでんぱほう · Backpropagation
15 views

逆伝播法は、ニューラルネットワークの学習において出力側の誤差を逆向きに伝え、パラメータを効率的に調整するための基礎的なアルゴリズムです。深層学習の発展には欠かせない技術であり、多層構造のモデルを正確に訓練することを可能にします。

逆伝播法とは

一言でいうと、逆伝播法とは、ニューラルネットワークの予測誤差を後ろ向きに計算して伝え、大量の重みを効率的に最適化するための数学的手法です。

詳しく解説

逆伝播法は誤差逆伝播法とも呼ばれ、微分の連鎖律(チェーンルール)を応用してネットワークの出力から入力側に向かって勾配を計算します。順方向の計算で得られた予測値と正解との誤差を起点に、各パラメータがどれだけ誤差に影響を与えたかを逆順にたどることで、すべての層の重みとバイアスを一度に効率よく更新できるようになります。この手法の登場により、多層のニューラルネットワークの訓練が現実的な計算時間で可能になりました。

具体例・使われ方

画像認識AIにおいて、ネコの画像を読み込ませた際に出力層で「イヌ」と誤判定されたとします。このとき生じた誤差を逆伝播法によって各層のニューロンへ逆向きに伝え、次回は正しく「ネコ」と判定できるようにモデル内部の重みを少しずつ修正します。

似た用語との違い

順伝播と混同されやすいですが、順伝播は入力から出力へ向けてデータを計算し予測結果を得るプロセスであり、逆伝播法はその結果生じた誤差をもとに出力から入力へ向けてパラメータの修正量を計算するプロセスです。

注意点

逆伝播法は強力ですが、層が深くなりすぎると出力側の誤差が入力側へ伝わる過程で勾配がほぼゼロになってしまう勾配消失問題が発生し、学習が正しく進まなくなる限界があります。そのため、活性化関数の工夫や適切な重みの初期化が必要となります。

更新日時: 2026年9月24日 14:15