局所的極小解とは、ニューラルネットワークなどの機械学習の学習過程において、ある狭い領域の中で最も誤差が小さくなる点のことを指します。全体の最適解である大域的極小解とは異なり、モデルの性能向上を妨げる要因の一つとして最適化問題で議論されます。
局所的極小解とは
一言でいうと、局所的極小解とは「周りの状態よりは良いが、全体の中では一番良くない状態（妥協点）」のことです。機械学習では、モデルのパラメータを調整して誤差を最小化する際に、この中途半端なポイントで学習が止まってしまう現象が問題になります。
詳しく解説
機械学習における学習は、損失関数という誤差を表す関数の値を最小化する最適化のプロセスです。このプロセスでは、勾配降下法などのアルゴリズムを用いて山の斜面を下るようにパラメータを更新していきます。しかし、関数の形状が複雑であるため、目的の谷底（全体の最適解）にたどり着く前に、周囲よりは低い小さなくぼみ（局所的極小解）にハマり込んでしまうことがあります。高次元の空間を持つディープラーニングなどでは、実際には局所的極小解だけでなく、鞍点と呼ばれる勾配がゼロになる別の構造も多く存在することが知られています。
具体例・使われ方
霧深い山の中で、現在地よりも周囲がすべて高い場所（小さなすり鉢状の底）に立ってしまい、これ以上低い場所へ進めなくなる状態が典型的なイメージです。実際のAI開発では、画像認識モデルの学習中に損失関数の値が途中から下がらなくなり、予測精度が頭打ちになる現象として現れます。
似た用語との違い
大域的極小解との違いは、それが「局所的（その周辺のみ）」か「大域的（全体を通して）」かという点です。大域的極小解は考えうる中で最も誤差が小さい理想的な解ですが、複雑な機械学習モデルでそれを完全に見つけ出すことは理論的・計算量的に非常に困難です。
注意点
近年の研究では、高次元のディープラーニングにおいては純粋な局所的極小解よりも、勾配がゼロになる鞍点の方が学習の停滞を引き起こす主要因であることが分かってきています。また、すべての中途半端な停止位置が悪いわけではなく、実用上は十分に性能が高い解に到達していることも多いため、局所的極小解の回避ばかりに囚われすぎないことも重要です。