データ分析機械学習統計学

多重共線性

たじゅうきょうせんせい · Multicollinearity
1 views

多重共線性(マルチコ)とは、重回帰分析などの統計モデルにおいて、複数の説明変数間に高い相関関係が存在する状態を指します。これが起きると、回帰係数の推定値が不安定になり、モデルの解釈や予測の信頼性が著しく低下します。機械学習やデータ分析における特徴量選択で特に注意すべき現象です。

多重共線性とは

多重共線性とは、統計学や機械学習における重回帰分析などを行う際、モデルに入力する複数の説明変数同士が強く連動(相関)している状態のことです。これにより、各変数の影響度を正しく評価できなくなります。

詳しく解説

重回帰分析では、ある目的変数を複数の説明変数で予測します。このとき、例えば『気温』と『エアコンの使用量』のように、お互いに強い相関を持つ説明変数を同時にモデルに組み込むと、多重共線性が生じます。数学的には、デザイン行列の正則性が失われ、逆行列の計算が不安定になることで、回帰係数の分散が極端に大きくなります。結果として、わずかなデータの変化で回帰係数が大きく変動し、どの変数が本当に目的変数に影響を与えているのかを特定することが困難になります。この現象は、機械学習モデルの解釈性を損なうだけでなく、過学習の原因や予測精度の低下を招くため、データ前処理の段階で適切に検出・対処する必要があります。

具体例・使われ方

例えば、不動産の価格を予測するモデルを構築する際、説明変数として『部屋の面積(平方メートル)』と『坪数』の双方を採用した場合を考えます。これら2つの変数は本質的に同じ情報を表しているため、極めて高い相関関係にあり、多重共線性を引き起こします。このような場合、どちらか一方のみを残す変数選択を行うことで、モデルを安定させることができます。また、アンケート調査で『満足度』と『お勧め度』といった類似の質問項目をすべて説明変数に含める場合も同様の注意が必要です。

似た用語との違い

多重共線性と混同されやすい概念に『相関関係』があります。相関関係は単に2つの変数間の線形な関連性の強さを示す指標ですが、多重共線性は複数の説明変数群が互いに高度に関連し合っていることで、統計モデルの推定(特に回帰係数)に悪影響を及ぼしている『状態』を指します。また、予測結果のブレという観点では過学習と似ていますが、過学習はモデルが訓練データに過剰に適合して汎化性能が落ちる現象全般を指すのに対し、多重共線性は入力変数間の相関に起因する具体的な統計的問題です。

注意点

多重共線性が発生していても、モデル全体の『予測精度』そのものは必ずしも悪化するとは限りません。そのため、予測のみを目的とする機械学習モデルでは見過ごされることがあります。しかし、モデルの内部構造を説明したり、特定の変数の寄与度を評価したりする場合には致命的な誤解を生む原因となります。対策としては、VIF(分散拡大要因)などの指標を用いて検出すること、相関の高い変数を除外する変数選択を行うこと、主成分分析による次元削減を行うこと、またはL1正則化・L2正則化(リッジ回帰やラッソ回帰)などの正則化手法を導入することが有効です。

更新日時: 2026年9月1日 04:31