グリッド探索は、機械学習モデルの最適なハイパーパラメータを探索する手法の一つです。事前に指定したパラメータの候補値を格子（グリッド）状に組み合わせ、すべてのパターンでモデルの評価を行います。シンプルで再現性が高く、確実に対象範囲の最適解を見つけられる一方で、パラメータ数が増えると計算量が爆発的に増加する特徴があります。
グリッド探索とは
グリッド探索（Grid Search）とは、機械学習においてモデルの予測精度を左右する「ハイパーパラメータ」の最適な組み合わせを自動的に探索する最も基本的な手法です。探索したいパラメータの候補値をあらかじめいくつか指定し、それらを網羅的に組み合わせた総当たり戦を行うことで、最も高い性能を示す設定を特定します。
詳しく解説
機械学習モデルの訓練において、学習率や決定木の深さといったハイパーパラメータは、モデルが自律的に学習するのではなく人間が外部から設定する必要があります。グリッド探索はこの設定作業を自動化します。例えば、パラメータAの候補として「1, 10, 100」、パラメータBの候補として「0.01, 0.1」を指定した場合、これら2×3＝6通りの全組み合わせについて交差検証（クロスバリデーション）などを実行し、最もスコアが良かった組み合わせを最良のハイパーパラメータとして採択します。すべての組み合わせを漏れなく評価するため、指定した探索範囲内におけるグローバルな最適解を確実に見つけられること、さらに並行処理が容易であるため大規模な計算資源を活かしやすいことが重要視される背景にあります。
具体例・使われ方
具体的な利用例として、サポートベクターマシン（SVM）のチューニングが挙げられます。カーネル関数のパラメータである「ガンマ（gamma）」の候補として [0.001, 0.01, 0.1, 1]、ペナルティパラメータである「コスト（C）」の候補として [1, 10, 100] を指定します。グリッド探索を実行すると、これら12パターンの設定でモデルが自動的に訓練・評価され、検証データの精度が最も高かった組み合わせを提示してくれます。
似た用語との違い
グリッド探索と混同されやすい手法に「ランダム探索」や「ベイズ最適化」があります。ランダム探索は、指定した範囲からランダムにパラメータをサンプリングして評価するため、グリッド探索よりも少ない試行回数で効率的に比較的良いパラメータを見つけられる傾向があります。一方、ベイズ最適化は過去の評価結果に基づいて「次に精度が高くなりそうな領域」を確率的に予測しながら探索を進めるため、グリッド探索よりも少ない計算コストで高度な最適化が可能です。これらに対し、グリッド探索は「事前に指定した候補を網羅的にすべて評価する」という点で異なります。
注意点
最大の限界は「次元の呪い」と呼ばれる計算コストの爆発です。チューニングしたいハイパーパラメータの種類が増えたり、それぞれの候補数を増やしたりすると、組み合わせの数が指数関数的に増加します。これにより、すべての探索が終わるまでに膨大な計算時間とメモリが必要になります。また、事前に指定した候補値の「隙間」にある真の最適値を見落としてしまうという欠点もあります。そのため、広範囲を大雑把に探索した後に、有望な領域を絞り込んで細かいグリッド探索を行うといった工夫が必要です。