与误差有关的基本假设

拟合包含随机变异性的数据时,有2个与误差有关的假设:

误差只存在于响应数据,预测数据中不存在;

误差是随机的,并且服从均值为0、方差为常数σ2的正态分布。

第2个假设常常用下式表示:

error~N(0, σ2)

假设误差服从正态分布,是因为正态分布能满足很多测量数据的分布特征。尽管最小二乘法进行参数估计时没有正态分布的要求,但是它在数据不包含很多极值随机误差时工作得最好。正态分布是极值随机误差较小的分布之一。但是,确定统计结果如置信区间和预测边界的有效性时有误差正态分布的要求。

如果误差的均值为0,则误差是完全随机的。如果均值不为0,则可能模型不太合适,或者误差随机性不强并包含有系统误差。

数据的方差为0表示误差的范围是不变的。具有相同方差的数据有时称为是等方差的。

对于加权最小二乘回归来说,并不要求一定满足随机误差的方差不变的假设,而是假设拟合过程中提供的权重能正确反映不同的量在数据中的差别。然后,用这些权重将每个数据点对于估计拟合系数的影响力调整到一个适当的水平。