粒子群最適化
粒子群最適化は、鳥の群れや魚の群れの行動模倣から着想を得た最適化アルゴリズムです。複数の粒子が探索空間を移動しながら、自身の最良値と全体の最良値を共有して最適な解を効率的に探索します。
最適化アルゴリズムに関するAI用語を27件掲載しています。意味や使い方、関連用語を一覧から確認できます。 現在は2ページ目です。
粒子群最適化は、鳥の群れや魚の群れの行動模倣から着想を得た最適化アルゴリズムです。複数の粒子が探索空間を移動しながら、自身の最良値と全体の最良値を共有して最適な解を効率的に探索します。
SGD(確率的勾配降下法)は、機械学習においてモデルのパラメータを効率的に更新するための最適化アルゴリズムです。全データではなく、ランダムに選んだ一部のデータを用いて勾配を計算・更新するため、大規模データに対しても高速かつ省メモリで学習を進められます。現代のディープラーニングにおける標準的な最適化手法の基礎となっています。
バッチ勾配下降法は、機械学習モデルのパラメータ最適化に用いられる基本的なアルゴリズムです。訓練データセット全体を一度にすべて読み込み、全体の誤差に基づいて損失関数の勾配を計算し、パラメータを更新します。更新が極めて安定している一方で、データ量が膨大になるとメモリ消費量や計算負荷が非常に大きくなる特徴があります。