R语言 线性模型 逐步回归

从大量候选变量中选择最终的预测变量有以下两种流行的方法:逐步回归法(stepwise method)和全子集回归(all-subsets regression)。

  1. 逐步回归 逐步回归中,模型会一次添加或者删除一个变量,直到达到某个判停准则为止。例如,向前 逐步回归(forward stepwise regression)每次添加一个预测变量到模型中,直到添加变量不会使 模型有所改进为止。

向后逐步回归(backward stepwise regression)从模型包含所有预测变量开始, 一次删除一个变量直到会降低模型质量为止。而向前向后逐步回归(stepwise stepwise regression, 通常称作逐步回归,以避免听起来太冗长),结合了向前逐步回归和向后逐步回归的方法,变量 每次进入一个,但是每一步中,变量都会被重新评价,对模型没有贡献的变量将会被删除,预测 变量可能会被添加、删除好几次,直到获得最优模型为止。

逐步回归法的实现依据增删变量的准则不同而不同。MASS包中的stepAIC()函数可以实现 逐步回归模型(向前、向后和向前向后),依据的是精确AIC准则。

代码清单8-13中,我们应用的 是向后回归。

> library(MASS)
> states <- as.data.frame(state.x77[,c("murder", "population", "illiteracy", "income", < code></->

Original: https://blog.csdn.net/Mrrunsen/article/details/121886771
Author: Mrrunsen
Title: R语言 线性模型 逐步回归

原创文章受到原创版权保护。转载请注明出处:https://www.johngo689.com/631202/

转载文章受原作者版权保护。转载请注明原作者出处!

(0)

大家都在看

亲爱的 Coder【最近整理,可免费获取】👉 最新必读书单  | 👏 面试题下载  | 🌎 免费的AI知识星球