最適化機械学習統計学

残差平方和

ざんさへいほうわ · Residual Sum of Squares
20 views

残差平方和とは、機械学習や統計学においてモデルの予測値と実際の観測値とのズレの二乗をすべて足し合わせた指標です。モデルがデータにどれほど適合しているかを評価し、最適なパラメータを探索するための基準として広く利用されています。

残差平方和とは

一言でいうと、モデルの予測と正解データのズレの大きさを総合的に測るための評価指標です。

詳しく解説

残差平方和は、各データ点における実測値とモデルによる予測値の差である残差を計算し、その二乗値を全データについて総和をとったものです。二乗するのは、正負の誤差が相殺されてしまうのを防ぐためであり、また大きな誤差に対してより大きなペナルティを課すためです。機械学習のモデル学習では、この残差平方和が最小になるようにパラメータを調整することで、データに最もよくフィットするモデルを作り出します。

具体例・使われ方

例えば、家賃の予測モデルを作る際、実際の家賃とモデルが予測した家賃の差を各物件で求めます。すべての物件についてその差の二乗を計算し合計したものが残差平方和となります。この値を小さくすることで、より精度の高い予測モデルを構築できます。

似た用語との違い

平均二乗誤差と混同されやすいですが、残差平方和がすべての差の二乗の合計値であるのに対し、平均二乗誤差はそれをデータ数で割ることで平均値をとったものです。目的や用途に応じて使い分けられます。

注意点

残差平方和は外れ値の影響を強く受けやすいという性質があります。大きな誤差を持つデータ点が一つあるだけで二乗計算により値が跳ね上がるため、モデルの評価を歪める原因になることがあります。また、過学習を起こしているモデルであっても訓練データに対する残差平方和は小さくなるため、汎用性の評価には注意が必要です。

更新日時: 2026年9月6日 15:51