多様体とは、局所的にはユークリッド空間とみなせるものの、全体としては複雑な形状をしている図形や空間のことです。機械学習では高次元データの背後にある本質的な低次元構造を捉えるために用いられ、次元削減や生成モデルの基礎理論として重要な役割を果たしています。
多様体とは
一言でいうと、多様体とは「局所的には普通の平らな空間(ユークリッド空間)に見えるが、全体としては曲がったりねじれたりしている高次元の空間」のことです。
詳しく解説
機械学習で扱うデータは、例えば数千次元の画像データのように非常に高次元です。しかし、実際にデータが存在する領域はその高次元空間の全体ではなく、特定の規則性を持った限られた部分空間であることが多々あります。この「データが潜んでいる低次元の曲面や空間」を数学的にモデル化したものが多様体です。深層学習や次元削減において、この隠れた多様体の構造を見つけ出し、効率的に表現することがモデルの性能向上につながるため非常に重要視されています。
具体例・使われ方
地球の表面は2次元の多様体です。私たちは普段の生活で地面を平ら(局所的なユークリッド空間)だと感じていますが、地球全体で見れば丸い球体(大域的な多様体)になっています。AI分野では、顔写真の画像データ群が持つ特徴量の変化を低次元の多様体として捉え、なめらかに変化させる生成モデル(GANやVAEなど)の設計に応用されています。
似た用語との違い
直線や平面といった単純なユークリッド空間と混同されやすいですが、ユークリッド空間は全体がどこまでも平坦であるのに対し、多様体は全体として曲面や複雑な形状を持つ点が異なります。また、不連続な離散データとは異なり、なめらかに連続している空間を指すのが一般的です。
注意点
データが常にきれいな多様体を形成しているとは限らず、ノイズや外れ値が含まれる現実のデータに対して多様体を仮定して解析するのは困難を伴う場合があります。また、高次元データから真の多様体を復元する計算は非常にコストが高くなる点にも注意が必要です。