ローカルミニマとは、ニューラルネットワークなどの機械学習モデルの訓練において、関数全体の最適値ではないものの、局所的に最も値が小さくなる極小値のことです。最適化アルゴリズムがこの地点に迷い込むと、より性能が良い全体の最小値を見つけられなくなる問題を引き起こします。
ローカルミニマとは
ローカルミニマとは、目的関数の値が局所的に最も小さくなる「局所的最小値」のことです。AIの学習過程において、誤差を最小化しようとする最適化アルゴリズムが抜け出せなくなる障害の一つとして知られています。
詳しく解説
機械学習やディープラーニングのモデルを学習させる際、予測誤差を最小化するために「勾配降下法」などの最適化アルゴリズムが用いられます。このアルゴリズムは、坂道を下るようにして誤差が最も小さくなるパラメータを探します。しかし、周囲よりも低い「くぼ地」のような地形が存在する場合、全体の最小値（グローバルミニマ）に到達する前にそのくぼ地の底で更新が止まってしまうことがあります。これがローカルミニマ問題です。高次元なモデルでは、実際にはローカルミニマよりも「サドルポイント（鞍点）」が学習を停滞させる主な原因であることが近年の研究で分かっています。
具体例・使われ方
広大な霧の中の山岳地帯を歩いて、最も標高が低い谷底（全体の最小値）を目指す状況を想像してください。周囲の山々を見渡せず足元の傾斜だけ頼りに下っていくと、小さな谷の底（ローカルミニマ）にたどり着いてしまい、それ以上低い場所へ移動できなくなるようなイメージです。
似た用語との違い
「グローバルミニマ（大域的最小値）」が関数全体を通じて最も低い値であるのに対し、ローカルミニマはあくまで「ある周辺の領域において一番低い値」という違いがあります。また、微分係数がゼロでありながら局所的な極小値でも最大値でもない「サドルポイント（鞍点）」とも区別されます。
注意点
現代の深層学習では、パラメータ数が非常に多い高次元の空間が形成されるため、純粋なローカルミニマ自体は学習の深刻な障害にはなりにくいとされています。むしろ、サドルポイントや、勾配が非常に緩やかになる平坦な領域による停滞への対策（モメンタムや確率的勾配降下法など）の方が実務上は重要視される点に注意が必要です。