共分散とは、2つの変数の間にある線形な関係性(一方が増えるともう一方も増える、または減る傾向)の強さと向きを表す統計指標です。正の値なら同方向に、負の値なら逆方向に動く傾向を示します。機械学習における特徴量の関係性把握や主成分分析などのデータ圧縮、統計的モデリングで基礎となる重要な概念です。
共分散とは
共分散とは、2つの数値データの組において「一方が増加した際にもう一方も増加するのか、それとも減少するのか」という数値の連動性の強さと向きを示す統計指標です。
詳しく解説
共分散は、各データ点におけるそれぞれの変数の平均値からの偏差を掛け合わせ、その平均を計算することで求められます。両方の変数が同時に平均より高い、または同時に低い傾向があれば値は正になり、正の連動を示します。逆に、一方が平均より高くもう一方が低い傾向があれば値は負になります。機械学習では、多次元データを扱う際に各変数間の共分散を並べた共分散行列が頻繁に利用されます。これはデータの広がりや多次元空間での傾きを表現し、次元削減手法である主成分分析や生成モデル、異常検知アルゴリズムなどの基礎計算として極めて重要な役割を果たします。
具体例・使われ方
例えば、気温とアイスクリームの売上のように「気温が上がると売上も上がる」関係では共分散は正の値をとります。一方で、気温と暖房器具の売上のように「気温が上がると売上が下がる」関係では負の値をとります。AIの実務では、高次元のセンサーデータから冗長な特徴量を特定する際や、主成分分析によって画像データの特徴量を圧縮して効率的なモデルを構築する場面などで広く使われます。
似た用語との違い
共分散と混同されやすい概念に分散と相関係数があります。分散は1つの変数が平均からどれだけ散らばっているかを示す尺度ですが、共分散は2つの変数間の連動性を示します。また、相関係数は共分散を各変数の標準偏差で割って標準化した指標です。共分散は測定単位(cmやkgなど)の大きさに依存して数値が変動するため、異なるデータ間での関係の強さを直接比較できませんが、相関係数は-1から1の範囲に正規化されるため比較が容易になります。
注意点
共分散を扱う際の注意点として、第一に単位の影響を大きく受けるため、値の絶対値の大きさだけで関係の強弱を直感的に判断しにくい点があります。第二に、共分散は直線的な線形関係しか捉えられず、U字型のような非線形の関係性がある場合には値が0に近くなり関係性が見落とされるリスクがあります。第三に、共分散の絶対値が大きいからといって変数間に因果関係があるとは限らず、別の共通要因による見かけの相関である可能性がある点に留意が必要です。