收藏本站
收藏 | 手机打开
二维码
手机客户端打开本文

线性回归模型中多重共线性问题的应对策略及其几点改进

刘红卫  
【摘要】:在解决许多实际问题中,需要使用解释变量对响应变量建立预测方程,但当涉及的解释变量较多时,解释变量间往往存在相关性;或者当取得的样本点数量小于解释变量个数时,都可以引起多重共线性问题,这时如果仍采用普通的最小二乘法来建模,那么这种多重共线性就会严重危害参数的估计、扩大模型误差、破坏模型的稳健性。 本文阐述了解决多重共线性问题的三种方法:岭回归方法、主成分回归方法、偏最小二乘回归方法,并对这三种方法进行了综述,且对它们的性质进行了归纳和总结,特别总结和归纳了基于方差最大性原则下的主成分分析的计算方法和步骤以及多因变量的偏最小二乘回归方法的计算方法和步骤。 本文讨论了岭回归、主成分回归和偏最小二乘回归的存在的一些问题,在岭回归中采用了一种基于均方误差无偏估计达到最小原则下选择岭参数K的新方法;在主成分回归中我们采用主成分的加权残差平方和来替代仅用残差平方和来筛选特征值的方法,明显改善了系统的误差,使得模型的精确度有了较大的提高;在偏最小二乘估计中我们从计算的约束条件着手,分析了解释矩阵中有较多信息且与响应变量具有较高相关性这种理想状态下的矛盾,采用了用正交投影的办法,把解释矩阵中与响应变量无关的成分扣除掉,经过这样处理的解释矩阵便不存在含有大量与响应变量无关的信息问题,从而扩宽了偏最小二乘回归方法的使用范围。同时还发现在偏最小二乘法当中利用交叉有效性原则选取主成分个数时,交叉有效原则并不是总是有效的,通过例题进行了说明。并且采用了一种基于”残差平方和的减小率”与Q_k~2准则相结合的方法来确定主成分的个数的新方法,这种准则是否合理,还需要我们在实践中进行检验。


知网文化
【相似文献】
中国期刊全文数据库 前19条
1 谢小韦;;浅析多元线性回归中多重共线性问题的三种解决方法[J];科技信息;2009年28期
2 周鑫;;多重共线性的有偏回归方法的实例比较[J];科技视界;2014年21期
3 何秀丽;王浩华;;岭回归中K值的探讨[J];甘肃联合大学学报(自然科学版);2008年06期
4 满敬銮;杨薇;;基于多重共线性的处理方法[J];数学理论与应用;2010年02期
5 杨楠;岭回归分析在解决多重共线性问题中的独特作用[J];统计与决策;2004年03期
6 开璇;张莉莉;;主成分回归和岭回归在新疆农业经济的应用[J];辽宁农业职业技术学院学报;2017年01期
7 魏红燕;;回归分析中多重共线性的诊断与处理[J];周口师范学院学报;2019年02期
8 孙梅;也谈运用回归分析预测城市公共交通客运量[J];江苏理工大学学报(社会科学版);1998年01期
9 周松青;解决多重共线性问题的线性回归方法[J];山西统计;2001年01期
10 李育冬;吴昊;夏苏清;;基于乌鲁木齐物流产业分析多重共线性[J];东南大学学报(哲学社会科学版);2013年S2期
11 张丽;王悦钰;白雪莲;;主成分回归在径流预测中的应用[J];人民黄河;2012年05期
12 尤游;刘苏兵;;岭回归和主成分回归下的芜湖市社会消费品零售总额实证研究[J];信阳农林学院学报;2020年03期
13 邵名;;应用岭回归方法分析我国工业经济效益的影响因素[J];数量经济技术经济研究;1986年03期
14 王飞;孙嘉聪;沈丹;;多重共线性问题的岭回归实例[J];数学学习与研究;2019年20期
15 曹芳;朱永忠;;基于多重共线性的Lasso方法[J];江南大学学报(自然科学版);2012年01期
16 朱尚伟;李景华;;岭回归估计的向量参数方法[J];应用概率统计;2018年05期
17 陈玲燕;;多重共线性下的线性回归方法综述[J];市场研究;2008年04期
18 汪红艳;刘振忠;李维屿;;主成分分析在居民消费价格分类指数中的应用[J];甘肃科技;2008年09期
19 李梦茹;张春梅;杨英超;;基于岭回归的山东省城镇化对碳排放的影响分析[J];时代经贸;2020年01期
中国重要会议论文全文数据库 前8条
1 马薇;徐慧;赵凯阳;李东;王文清;;DOE优化仿真设计方法在发动机缸体质量提升中的应用[A];2020重庆市铸造年会论文集[C];2020年
2 陈曦;高雅萍;陈果;;基于卡尔曼滤波优化岭回归GM(2,1)模型的形变预测分析[A];第十二届中国卫星导航年会论文集——S01 卫星导航行业应用[C];2021年
3 姚荣景;;基于主成分回归和BP神经网络的南京市城市建设用地规模预测研究[A];南京市国土资源信息中心30周年学术交流会论文集[C];2020年
4 张志;张开飞;崔迎涛;秦超彬;李赫;;基于近红外光谱技术快速无损检测大豆含水量[A];第二十届全国分子光谱学学术会议暨2018年光谱年会论文集[C];2018年
5 李春红;张忠占;;一类毒性试验中药物剂量水平的识别[A];北京市第十三次统计科学讨论会论文选编[C];2006年
6 王新华;;我国服务业外商直接投资的决定因素——基于岭回归的实证研究[A];国际服务贸易评论(总第2辑)[C];2008年
7 吴尧;张广智;卢溜;;利用偏最小二乘回归方法进行储层厚度预测[A];2017中国地球科学联合学术年会论文集(三十二)——专题61:工程地球物理技术进展与应用、专题62:油藏地球物理[C];2017年
8 苗强;刘晓琳;王仲奇;;随机球重叠判断算法改进研究工作进展[A];中国原子能科学研究院年报 2013[C];2014年
中国博士学位论文全文数据库 前11条
1 刘文臣;变量分离算法及多元响应变量回归问题的研究[D];华东师范大学;2019年
2 李晓霞;响应变量缺失下的特征筛选和模型的参数估计[D];云南大学;2019年
3 肖立群;响应变量受限纵向数据中若干统计问题的研究[D];中国科学技术大学;2014年
4 余彬;二元响应变量的三臂非劣效性试验[D];云南大学;2015年
5 殷弘;Kriging方法在定量的分子结构与分子化学属性之间关系的建模研究[D];武汉大学;2005年
6 张流洋;基于稳健参数设计的多响应优化研究[D];南京理工大学;2015年
7 周凌云;几种典型群智能算法及其更新机制研究[D];武汉大学;2018年
8 张代雨;多学科优化算法及其在水下航行器中的应用[D];西北工业大学;2017年
9 钟林峰;复杂网络中关键节点的挖掘算法研究[D];电子科技大学;2018年
10 邱实;多光谱卫星遥感影像云及云阴影精准检测算法研究[D];电子科技大学;2018年
11 Muhammad Amin;高维惩罚分位数回归建模及其应用[D];大连理工大学;2015年
中国硕士学位论文全文数据库 前20条
1 刘红卫;线性回归模型中多重共线性问题的应对策略及其几点改进[D];西南交通大学;2006年
2 张凤莲;多元线性回归中多重共线性问题的解决办法探讨[D];华南理工大学;2010年
3 何秀丽;多元线性模型与岭回归分析[D];华中科技大学;2005年
4 王美达;基于自适应P值方法的有序性状与罕见变异的关联探测[D];黑龙江大学;2018年
5 姜阿丽;多元混合正态分布下的累积切片估计[D];云南财经大学;2018年
6 徐嘉;负债分析中的多重共线性问题研究[D];哈尔滨工业大学;2019年
7 程书生;关于GM(1,N)模型中多重共线性与自相关性问题的研究[D];武汉理工大学;2018年
8 高阳;对多重共线性检测指标的一些研究[D];兰州大学;2019年
9 李航飞;基于核岭回归的天体光谱参数自动测量研究[D];辽宁科技大学;2019年
10 苏坚坚;基于核岭回归的直流电机测速技术及实现[D];福州大学;2018年
11 竹泽石;基于随机配置网络的分布回归研究[D];浙江工商大学;2018年
12 戴迪帆;基于数据增广方法改进的岭回归估计[D];浙江工商大学;2018年
13 程娴;基于稳健主成分回归的润滑油产量预测模型[D];大连理工大学;2017年
14 黄雪雁;函数型响应变量—标量型预测变量的线性回归模型的估计与变量选择[D];兰州大学;2021年
15 董铭言;潜变量在不同类型数据中的应用[D];东北师范大学;2013年
16 夏立奇;响应变量缺失下变系数部分非线性模型的统计推断[D];山东师范大学;2021年
17 李亚娟;基于LASSO的函数型主成分回归模型及收益率预测研究[D];厦门大学;2019年
18 朱蓬勃;基于多元概率主成分回归模型的鲁棒软测量建模方法研究[D];哈尔滨工业大学;2019年
19 刘晓晓;山东省普通中学数量发展的分析研究[D];曲阜师范大学;2019年
20 李姜童;基于紫外-可见光谱分析的水质COD检测技术研究[D];云南师范大学;2018年
中国重要报纸全文数据库 前1条
1 记者 宛霞;风云卫星云导风算法改进[N];中国气象报;2018年
 快捷付款方式  订购知网充值卡  订购热线  帮助中心
  • 400-819-9993
  • 010-62982499
  • 010-62783978