额外平方和F检验可以比较两个嵌套模型拟合最小二乘回归的拟合度。 嵌套 是指一个模型(简单模型,以下模型1)是另一个模型(复杂模型;以下模型2)的特例。
如果简单模型正确无误,则预计平方和的相对增加(从复杂模型至简单模型)等于自由度的相对增加。换言之,如果简单模型正确无误,则预计:
SS1是较简单模型的平方和(将更高),则SS2是较复杂模型的平方和。回顾一下,自由度数等于数据点个数减去参数数量。复杂模型拥有更多参数,因此自由度更小。
如果复杂模型正确无误,则预计平方和的相对增加(从复杂模型至简单模型)将大于自由度的相对增加:
F比率可量化平方和的相对增加与自由度的相对增加之间的关系。
该方程通常以等价形式表示:
F比率总是与分子一定的自由度数和分母一定的自由度数相关。该F比率的分子具有DF1-DF2自由度,分母具有DF2自由度。
如果简单模型正确无误,则预计得到的F比率接近1.0。如果比率远大于1.0,则存在两种可能性:
•复杂模型正确无误。
•简单模型正确无误,但随机散布导致复杂模型拟合度更高。P值反映出这一巧合的罕见程度。
P值回答了该问题:
如果模型1确实正确无误,则能够随机获得与模型2拟合度更高的数据的可能性有多大?
如果P值较低,则得出结论:模型2在统计学上明显优于模型1。否则得出结论:缺乏令人信服的证据支持模型2,因此接受简单模型(模型1)。