最小二乗法について

最小二乗法の説明

パラメータ値を推定する最も一般的な方法は、「最小二乗法」です。 最小二乗法は、測定データからの理論データポイントの偏りの二乗の総和を最小にします。 この総和は、残差の二乗和で、以下の式で計算されます。

最適なフィット曲線は RSSを最小化します。この図 は、 単純な線形モデルでの最小二乗フィッティングの考え方を示しています。(多重回帰と非線形回帰も同様です。)

最適なフィット曲線は、仮定の理論モデルを表しています。元のデータセットの特定のポイント (xi, yi) に対して、 xi での対応する理論値は、で表されます。

回帰モデルに2つの独立変数がある場合、最小二乗推定法は、最適なフィット曲面への測定データのずれを最小化します。 3つ以上の独立変数がある場合、フィットモデルは超曲面になります。この場合、回帰を実行しても、フィット曲面(または曲線)はプロットされません。