特徴空間とは、機械学習で扱うデータを数値化し、複数の特徴量を座標軸に見立てて幾何学的に配置した多次元の空間です。データ同士の類似性やパターンを視覚的かつ数学的に捉えるための基盤となります。
特徴空間とは
特徴空間とは、機械学習においてデータを数値化された特徴量（次元）の組み合わせとして表し、それらを幾何学的な座標上の点として配置した多次元空間のことです。
詳しく解説
機械学習モデルは、入力されたデータをそのまま処理するのではなく、モデルが扱いやすい特徴量という数値のセットに変換します。例えば、画像のサイズや色の明るさなどをそれぞれ一つの軸（次元）として割り当てると、1つのデータが多次元空間上の1つの点としてプロットされます。この空間上では、類似した性質を持つデータ同士は近い位置に集まり、異なる性質を持つデータは遠くに配置される傾向があります。ニューラルネットワークの中間層なども、入力データをより抽象的で分類しやすい別の特徴空間へ変換する役割を担っています。
具体例・使われ方
例えば、不動産の物件データ（価格、面積、築年数）を機械学習で分析する場合、これら3つの特徴量をそれぞれX軸、Y軸、Z軸とした3次元の特徴空間上に各物件を配置できます。さらに、犬と猫の画像分類モデルでは、数千から数万次元の非常に複雑な高次元空間上で、犬の画像が集まる領域と猫の画像が集まる領域にデータを分離する処理が行われます。
似た用語との違い
元の生データが保存されている「データ空間」や、モデルが最終的に出力する「出力空間」とは異なり、特徴空間は機械学習アルゴリズムが学習や推論を行うために内部で構築・利用する抽象的な表現空間です。
注意点
特徴空間の次元数が非常に多くなると「次元の呪い」と呼ばれる現象が発生し、データ間の距離の計算が難しくなったり、過学習を引き起こしやすくなったりする点に注意が必要です。