从大量候选变量中选择最终的预测变量有以下两种流行的方法:逐步回归法(stepwise method)和全子集回归(all-subsets regression)。
- 逐步回归 逐步回归中,模型会一次添加或者删除一个变量,直到达到某个判停准则为止。例如,向前 逐步回归(forward stepwise regression)每次添加一个预测变量到模型中,直到添加变量不会使 模型有所改进为止。
向后逐步回归(backward stepwise regression)从模型包含所有预测变量开始, 一次删除一个变量直到会降低模型质量为止。而向前向后逐步回归(stepwise stepwise regression, 通常称作逐步回归,以避免听起来太冗长),结合了向前逐步回归和向后逐步回归的方法,变量 每次进入一个,但是每一步中,变量都会被重新评价,对模型没有贡献的变量将会被删除,预测 变量可能会被添加、删除好几次,直到获得最优模型为止。
逐步回归法的实现依据增删变量的准则不同而不同。MASS包中的stepAIC()函数可以实现 逐步回归模型(向前、向后和向前向后),依据的是精确AIC准则。
代码清单8-13中,我们应用的 是向后回归。
> library(MASS)
> states <- as.data.frame(state.x77[,c("murder", "population", "illiteracy", "income", < code></->
Original: https://blog.csdn.net/Mrrunsen/article/details/121886771
Author: Mrrunsen
Title: R语言 线性模型 逐步回归
原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/631202/
转载文章受原作者版权保护。转载请注明原作者出处!