TRPO
TRPO（Trust Region Policy Optimization）とは、強化学習において方策を更新する際の変化幅を制限することで、学習の安定性と性能向上を確実にするための最適化アルゴリズムです。急激な方策の悪化を防ぐ強力な手法として知られています。
最適化アルゴリズムのAI用語一覧
27件最適化アルゴリズムに関するAI用語を27件掲載しています。意味や使い方、関連用語を一覧から確認できます。
ミニバッチ
ミニバッチとは、機械学習の学習時にデータセットを小さな複数のグループに分割して処理する手法です。計算効率と学習の安定性を両立できるため、ディープラーニングの訓練において標準的に採用されています。
確率的勾配降下法
機械学習のモデル学習において、損失関数を最小化するための最適化アルゴリズム。全データではなくランダムに抽出した一部のデータを用いてパラメータを更新することで、計算コストを大幅に削減し、大規模なデータセットでも効率的な学習を可能にする基本的な手法。
勾配計算
勾配計算とは、機械学習や深層学習において損失関数の値が最も減少する方向を導出するプロセスです。モデルの予測精度を高めるためのパラメータ調整に不可欠であり、主に自動微分や誤差逆伝播法を用いて効率的に実行されます。
モーメンタム
モーメンタムとは、機械学習の最適化アルゴリズムにおいて、過去の勾配（傾き）の情報を「慣性」のように引き継いでパラメータの更新を加速させる手法です。これにより、局所的な最小解（ローカルミニマ）や平坦な領域（サドルポイント）からの脱出を容易にし、ニューラルネットワークの学習速度を向上させることができます。
自然勾配法
自然勾配法とは、パラメータ空間のユークリッド距離ではなく確率分布間の距離に着目してパラメータを更新する最適化アルゴリズムです。通常の勾配降下法がパラメータの取り方に影響を受けやすいのに対し、情報幾何学の知見を活用して最適な更新方向を決定します。強化学習のポリシーグラディエント法などで学習を安定化させるために広く応用されています。
遺伝的アルゴリズム
遺伝的アルゴリズムとは、生物の進化や自然淘汰の仕組みを模倣した最適化アルゴリズムの一種です。複数の解の候補を「遺伝子」に見立て、交叉や突然変異などの操作を繰り返しながら、より適した解を探索します。厳密な数式で最適解を導くのが難しい複雑な問題に対して、実用的な近似解を効率よく見つけ出す手法として、様々な分野で活用されています。
モメンタム法
モメンタム法とは、機械学習のモデル更新において、前回の更新量を物理の「慣性」のように考慮することで最適化を加速させる手法です。通常の確率的勾配降下法で起こりがちな振動や停滞を抑え、谷のような深い損失関数上でも効率よく最適解へ向かって進むことができます。ディープラーニングの学習速度向上と安定化に大きく貢献した基本的な最適化手法です。
凸最適化
凸最適化とは、局所最適解がそのまま大域的最適解になる数学的な最適化問題の枠組みです。機械学習や深層学習のモデル訓練において、損失関数の最小化や効率的なアルゴリズム設計の基礎として広く応用されています。
指数移動平均
指数移動平均（EMA）とは、過去のデータよりも直近のデータに高い重みを置き、指数関数的に重みを減衰させながら算出する平均計算手法です。機械学習では最適化アルゴリズムの勾配平滑化やモデルの重みパラメータの安定化などに広く利用され、ノイズを抑えつつ変化に素早く追従できる特徴を持ちます。
分枝限定法
分枝限定法は、膨大な選択肢から最適な解を探索する組合せ最適化問題を効率的に解くアルゴリズムです。探索範囲を細分化する「分枝」と、解の上限・下限を見積もる「限定」を組み合わせ、見込みのない探索ルートを打ち切る「剪定」を行うことで、計算時間を大幅に削減しながら理論上厳密な最適解を確実に得られるのが特徴です。
山登り法
山登り法とは、現在の状態から最も評価が高くなる隣接した状態へ移動することを繰り返し、より良い解を探す基本的な探索アルゴリズムです。霧の中で最も傾斜の高い方向へ一歩ずつ登るように動作し、シンプルで計算コストが低い一方、途中の低い山頂である局所最適解に陥りやすい特性を持ちます。
アダム
アダム（Adam）は、ディープラーニングなどの機械学習モデルの訓練で広く使われる最適化アルゴリズムの一つです。勾配のモーメント推定を利用して学習率を自動調整し、効率的かつ安定したパラメータ更新を実現します。
逆誤差伝播法
逆誤差伝播法とは、ニューラルネットワークの学習において、出力された予測値と正解との誤差をネットワークの逆向きに伝播させ、各パラメータを効率的に更新するためのアルゴリズムです。深層学習の急速な発展を支えた最も重要な基盤技術の一つです。
焼きなまし法
焼きなまし法とは、金属の焼きなまし処理にヒントを得た確率的探索アルゴリズムです。探索の初期段階ではあえて改悪方向への遷移を確率的に許容することで、局所最適解から抜け出し、広大な探索空間の中からより良い大域的最適解を発見しやすくします。
確率的勾配降下法 (SGD)
確率的勾配降下法（SGD）は、機械学習やディープラーニングにおいてモデルのパラメータを最適化するための基本的なアルゴリズムです。訓練データの中からランダムに1つのデータを選び、そのデータに対する損失関数の勾配を計算してパラメータを更新します。これにより、全データを使用する手法に比べて計算コストを大幅に削減し、高速な学習を可能にします。
ニュートン法
ニュートン法は、方程式の数値解や関数の極値を近似的に求めるための代表的な最適化アルゴリズムです。目的関数の勾配だけでなく、二階微分情報であるヘッセ行列を利用することで、最急降下法よりも非常に高速に最適な解へと収束する特徴を持ちます。一方で、計算コストが非常に高いという課題もあります。
全体最適解
全体最適解とは、最適化問題において定義されたすべての選択肢の中で、目的関数を最も適した値にする最高の解のことです。機械学習モデルの訓練では、損失関数を極小化する大域的な解を指します。局所最適解に陥るリスクを回避しながら全体最適解を探し出すことが、モデルの予測精度向上において非常に重要です。
確率的勾配下降法
確率的勾配下降法とは、機械学習モデルのパラメータを最適化するための代表的なアルゴリズムです。全データではなく一部のデータランダムに抽出して勾配を計算するため、大規模なデータセットでも高速に学習を進められる点が特徴です。
勾配下降法
勾配下降法とは、機械学習やディープラーニングにおいてモデルの予測誤差を最小化するために用いられる代表的な最適化アルゴリズムです。損失関数の勾配（傾き）を計算し、誤差が最も小さくなる方向へモデルのパラメータを少しずつ更新します。効率的な学習を実現するための基礎となる重要な技術です。
アダグラッド
AdaGrad（Adaptive Gradient Algorithm）は、機械学習の学習において勾配の大きさに応じて学習率を自動調整する最適化アルゴリズムです。過去の勾配の蓄積を利用するため、出現頻度の低い特徴量に対して大きな学習率を割り当て、効率的な学習を可能にします。
アント・コロニー・オプティマイゼーション
アント・コロニー・オプティマイゼーションは、アリの巣探し行動に着想を得たメタヒューリスティクスです。フェロモン情報を模倣した数理モデルを用いて、巡回セールスマン問題などの複雑な組合せ最適化問題を効率的に解くことができます。
進化計算
進化計算とは、生物の進化の仕組みを模倣して最適な解を探索する計算手法の総称です。突然変異や交叉、自然選択のプロセスをコンピュータ上で再現し、複雑な最適化問題や機械学習のハイパーパラメータ調整などに広く活用されています。
ミニバッチ勾配下降法
ミニバッチ勾配下降法は、機械学習モデルの重み更新において、訓練データをいくつかの小さなグループに分割し、そのグループごとに勾配を計算してパラメータを更新する最適化アルゴリズムです。バッチ勾配下降法の安定性と確率的勾配下降法（SGD）の処理速度という、両者の利点をバランスよく兼ね備えているため、ディープラーニングにおける標準的な手法として広く用いられています。