回归分析|离差平方和的定义、类型和公式（十分重要的概念）

Question

如题所述

Answer 1

回归分析中不可或缺的基石：离差平方和

深入理解离差平方和，是掌握回归分析的关键。让我们从定义、类型和公式三个方面，揭示这个统计量的奥秘。

一、离差平方和的基本概念

1. 离差平方和的定义

离差平方和是衡量数据点与平均值间差异的统计度量，它是每个观测值与其平均值差值的平方之和。其核心公式如下：

公式： ∑(yi - μ)^2，其中 yi 是每个观测值，μ 是数据集的平均值。

这个公式揭示了几个关键特性：

新增数据：新数据点无论与平均值偏离程度如何，都会增加离差平方和的总量，除非它们恰好等于平均值。
样本量影响：离差平方和未考虑样本量，当样本量增大时，未调整的值会随之增加。
波动反映：离差平方和越大，数据集的波动性越强，反之亦然。

二、回归分析中的三种离差平方和

2. 回归分析中的关键构成

在回归分析中，我们关注的三种离差平方和是：总的离差平方和（SST）、回归离差平方和（SSR）和残差平方和（SSE）。

SST - 总的离差平方和: 数据集整体波动的度量，显示Y围绕其均值的幅度。
SSR - 回归离差平方和: 拟合线解释的波动，表示模型能解释的Y值变化。
SSE - 残差平方和: 模型未能解释的波动，即观测值与拟合值之间的差距。

理想的模型应该最大化SSR，同时最小化SSE，以实现最精准的预测。

三、离差平方和的相互关系

3. 理解离差平方和间的平衡

在回归分析中，SST是固定的，因为它是数据集固有的波动性。SSR和SSE的总和等于SST，意味着当模型能力提升时，SSR增加的同时，SSE相应减少。因此，理想模型下的SSE会达到最低，反映了模型对数据的准确捕捉能力。