最小二乗法とは?さいしょうにじょうほう
最小二乗法とは、観測値とモデルによる予測値との差(残差)を2乗して合計し、その合計が最小になるようにモデルのパラメータを決める推定法。回帰直線の傾きと切片を求める標準的な手順で、誤差は正負を問わず同じ重みで効き、大きく外れた点ほど強く効く。
最終更新:2026-10-07
高度試験の午前Iを最短で暗記する →背景
残差をそのまま足すと正負が打ち消し合い、まったく合っていない直線でも合計がゼロになりうる。絶対値で足せば打ち消しは防げるが、折れ曲がった関数になって解を求めにくい。2乗すると符号が消えるうえ滑らかな関数になり、微分して0と置くだけで解が一意に定まる——計算のしやすさから選ばれた基準である。
具体例
月別の広告費と売上のように対になった実測値が並ぶとき、最小二乗法で引いた回帰直線の傾きから「広告費を100万円増やすと売上がいくら伸びる関係にあるか」を読む。表計算ソフトのSLOPE関数・INTERCEPT関数や散布図の近似曲線は、この計算を内部で行っている。
試験での引っ掛け
最小化するのは残差の2乗和であって、点と直線の垂直距離ではない(縦方向にだけ測る)。2乗で効くため外れ値1点に直線が引っ張られやすく、相関が強く見えても因果関係を示したことにはならない。決定係数が高いことと、モデルが正しいこととも別である。
関連用語
出典・参考
公式シラバスの9 企業と法務 > 2. 業務分析・データ利活用 > (1) OR・IEに掲載されている用語です。
解説は資格暗記が独自に作成しています。過去問の出典は各問題に記載のとおりです。