温馨提示×

温馨提示×

您好,登录后才能下订单哦!

密码登录×
登录注册×
其他方式登录
点击 登录注册 即表示同意《亿速云用户服务条款》

R语言如何实现前向逐步回归

发布时间:2021-08-11 13:43:18 来源:亿速云 阅读:109 作者:小新 栏目:开发技术

这篇文章主要介绍了R语言如何实现前向逐步回归,具有一定借鉴价值,感兴趣的朋友可以参考下,希望大家阅读完这篇文章之后大有收获,下面让小编带着大家一起了解一下。

    前向逐步回归原理

    前向逐步回归的过程是:遍历属性的一列子集,选择使模型效果最好的那一列属性。接着寻找与其组合效果最好的第二列属性,而不是遍历所有的两列子集。以此类推,每次遍历时,子集都包含上一次遍历得到的最优子集。这样,每次遍历都会选择一个新的属性添加到特征集合中,直至特征集合中特征个数不能再增加。

    数据导入并分组

    导入数据,将数据集抽取70%作为训练集,剩下30%作为测试集。特征与标签分开存放。

    导入数据

    R语言的实现如下图:

    R语言如何实现前向逐步回归

    train和test中存储的数据情况如下:

    R语言如何实现前向逐步回归

    特征与标签分开存放

    R语言的实现如下图:

    R语言如何实现前向逐步回归

    前向逐步回归构建输出特征集合

    通过for循环,从属性的一个子集开始进行遍历。第一次遍历时,该子集为空。每一个属性被加入子集后,通过线性回归来拟合模型,并计算在测试集上的误差,每次遍历选择得到误差最小的一列加入输出特征集合中。最终得到输出特征集合的关联索引和属性名称。

    从空开始一次创建属性列表

    R语言的实现如下图:

    R语言如何实现前向逐步回归

    模型效果评估

    分别画出RMSE与属性个数之间的关系,前向逐步预测算法对数据预测对错误直方图,和真实标签与预测标签散点图。R实现如下:

    R语言如何实现前向逐步回归

    R语言如何实现前向逐步回归

    R语言如何实现前向逐步回归

    R语言如何实现前向逐步回归

    R语言如何实现前向逐步回归

    R语言如何实现前向逐步回归

    感谢你能够认真阅读完这篇文章,希望小编分享的“R语言如何实现前向逐步回归”这篇文章对大家有帮助,同时也希望大家多多支持亿速云,关注亿速云行业资讯频道,更多相关知识等着你来学习!

    向AI问一下细节

    免责声明:本站发布的内容(图片、视频和文字)以原创、转载和分享为主,文章观点不代表本网站立场,如果涉及侵权请联系站长邮箱:is@yisu.com进行举报,并提供相关证据,一经查实,将立刻删除涉嫌侵权内容。

    AI